谷歌公司已为其Cloud AI Platform发布了多个更新,旨在使其“更快、更灵活”地运行机器学习工作负载。
Cloud AI Platform是谷歌公司的一种机器学习平台即服务(ML PaaS),专为人工智能开发人员、工程师和数据科学家而设计。该平台是端到端的平台,并为从准备数据、培训到构建和部署机器学习模型的整个开发周期提供支持。
该平台很值得一提的新增功能是对Nvidia GPU的支持。正如谷歌公司解释的那样,“机器学习模型非常复杂,以至于它们只能在具有许多CPU或NVIDIA GPU等加速器上以可接受的延迟运行。对于处理非结构化数据(例如图像、视频或文本)的模型尤其如此。”
在以往,Cloud AI Platform只支持一个vCPU和2GB 内存。现在,用户可以为人工智能平台预测添加GPU,例如推理优化的低延迟NVIDIA T4。而其基本层增加了对多达四个vCPU的支持。
总部位于华盛顿的国际自然保护组织正在使用人工智能平台预测,该组织的任务是“以负责任和可持续的方式保护自然、全球生物多样性、人类的福祉”,并正在开展一项名为“野生动植物洞察”的合作项目。
国际自然保护组织保护技术高级总监Eric H. Fegraus解释说,“野生动物洞察将把数以百万计的野生动物图像转化为关键数据点,可以帮助我们更好地了解、保护、拯救世界各地的野生动物种群。谷歌云的人工智能平台帮助我们可靠地服务于机器学习模型,并轻松地将它们的预测与我们的应用程序集成。在快速响应和可扩展的GPU硬件环境中,快速预测对我们的用户体验至关重要。”
对运行自定义容器进行训练模型的支持也已普遍可用。用户可以为自己的Docker映像提供预安装在人工智能平台上运行的机器学习框架。开发人员可以在将容器映像部署到云平台之前对其进行本地测试。
旨在使用该平台进行推理的客户(托管经过训练的模型可以做出预测)现在可以这样做。可以使用Google Cloud AI平台托管机器学习模型,并且可以使用人工智能平台预测推断目标值以获取新数据。
现在人工智能平台预测是基于Kubernetes构建的,这使谷歌公司能够构建具有机器学习所需的很多灵活性的可靠且快速的服务系统。