天才一秒记住【狂风中文网】地址:https://www.kfzw.net
就在所有人以为亚马逊要进军ai的时候,贝索斯点击遥控器。
大屏幕上弹出来的东西却让他们大吃一惊。
毕竟屏幕上弹出来的確实是新业务,但並不是他们所期待的进军ai,而是inferentia的晶片架构图。
16纳米工艺,8核心神经推理引擎,单晶片int8算力120tops。
支持tensorflow、pytorch、mxnet原生部署,单卡功耗75w。
“inferentia是亚马逊第一款完全自研的ai推理晶片,”
贝索斯说,“它专门为云端推理设计。
不是训练,不是通用计算。
就是推理。
因为我们的客户告诉我们,90%的ai算力成本,花在了推理上,术业有专攻,专门的ai推理晶片会让他们的业务进展得更加快速。”
他放出一张对比图。
对比对象,是华星的星核ai推理卡t1。
华星t1採用10纳米工艺,int8算力同为120tops,功耗也是75w。
纸面参数几乎一致。
16纳米对10纳米,inferentia在工艺上略逊一筹,但差距不大。
贝索斯没有在参数上多纠缠。
他对比的是价格。
华星t1:单卡在美利坚这边的售价为14500美元
awsinferentia实例:每小时0.13美元起
“我们不卖晶片,”
贝索斯的笑容很淡,“我们卖算力。
你不需要买一张卡插在机房里,你只需要在aws上开一个inferentia实例。
一个小时一毛三。
比华星的卡便宜多少?你们可以自己算。”
全场嗡嗡作响,这个方案似乎有点香,相比买算力卡,打造自己的算力中心,这种租赁模式似乎更符合美利坚的需求。
看著这些记者都被触动,贝索斯继续展示inferentia的另一个杀招:与aws生態的深度绑定。
inferentia实例可以无缝调用s3存储、lambda函数、sagemaker训练平台、rekognition图像识別api。
用户不用自己搭框架,不用自己调驱动,不用管兼容性。
只需要开箱即用,一切都在aws的围墙花园里。
“这就是云的力量,”
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!