环球门户网

AWS通过新的芯片——弹性推理——推进机器学习

更新时间:2021-03-19 22:08:49

导读 亚马逊弹性推理的推出使客户可以将GPU加速添加到任何EC2实例中,以节省75%的快速推理。贾西说,通常情况下,推断期间GPU的平均利用率为10%

亚马逊弹性推理的推出使客户可以将GPU加速添加到任何EC2实例中,以节省75%的快速推理。贾西说,通常情况下,推断期间GPU的平均利用率为10%至30%。

还有:2018年顶级云提供商:AWS,微软,谷歌云平台,IBM云,甲骨文,阿里巴巴

随着越来越多的企业在云端接受机器学习,AmazonWebServices正在引入新的功能和工具来改进推理。具体来说,它正在启动亚马逊的弹性推理,并推出了一种名为AWS Inferentia的新处理器。

AWS首席执行官安迪·贾西在拉斯维加斯的Re:Create会议上说:“如果你考虑到成本等式……绝大部分的成本--大概90%--都是推断出来的。”

使用弹性推理,您可以在创建任何EC2实例时提供弹性推理。您可以从1 teraflop开始,或最多执行32 teraflops。弹性推理可以检测在该实例上运行的主要框架之一,从而确定加速会带来什么好处。

还有:2018年云战:我们学到了6件事

“这是一个相当重要的游戏改变,因为它能够更有效地运行推理,”雅西说。

同时,AWS Inferentia是一个高性能的机器学习推理芯片,自定义由AWS设计.它将是非常高的吞吐量,低延迟,具有持续的性能和非常成本效益,雅西说。它将支持所有主要框架,并可用于所有EC2实例类型。

在主题演讲中还宣布了AWS SageMaker的地面真相,雅西说,这使得组织可以实现机器学习,而无需花费数千人的时间在培训模型上。

另外:Amazon的CloudCaM为家庭安全CNET找到了合适的平衡点

这位首席执行官说,AWS SageMaker地面真相是一个非常精确的训练数据集,它将使数据标记成本降低70%。

他解释说,典型的情况是,“为了训练模型,你必须给物体贴上标签.你需要知道停车标志或行人是什么。”“这需要数千小时的录像,你必须给所有的东西贴上标签。”

这一过程通常是缓慢、昂贵和难以实现的。贾西说:“大多数公司只是不费吹灰之力,这使得建立这些计算机视觉模型变得更加困难。”

还有:51%的技术专家说云是最重要的技术共和国。

同时,AmazonSage Maker RL在AmazonSage Maker中提供新的机器学习功能,用于构建、培训和部署强化学习。贾西说,这相当于“加强了每个开发人员和数据科学家的学习”。

他表示:“我们希望让每个人都能接触到这一点。”他指出,规模较小的公司应该能够做到大公司所做的事情。

混合云在“多云时代”是什么?为什么你已经有了一种云?

现在,企业使用并提供给其客户的服务可以托管在公共云中的服务器上或在办公场所上,也许“混合云”不再是一种体系结构。尽管可能是这样,但这并不能阻止数字转型业务中的一些人宣称这是一种工作方式。

云计算:这是一个重要的转折点

应用程序支出已以最快的速度转移到云领域,但IT支出的其他领域正在迎头赶上。

版权声明:转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网联系,我们将及时更正、删除,谢谢您的支持与理解。