近日,斯坦福大学公布了最新的DAWNBench深度学习榜单,阿里云打破谷歌等企业创造的记录,包揽权威竞赛训练时间、训练成本、推理延迟以及推理成本四项第一。
DAWNBench官方显示,阿里云异构计算服务训练ImageNet128 万张图片用时 2 分 38 秒,基于含光 800 的AI服务识别一张图片用时仅0.0739ms,这意味着阿里云可提供全球最快的AI计算服务。
据悉,此次阿里云创造四项纪录得益于阿里云自研加速框架AIACC及平头哥含光800。含光 800 是阿里巴巴在9 月 25 日的杭州云栖大会上发布的AI推理芯片,其处理速度峰值将达到78563IPS,每秒可处理 78000 张图片,算力相当于 10 个GPU。
而AIACC是阿里云自主研发的飞天AI加速引擎,首次实现了统一加速Tensorflow、PyTorch、MxNet和Caffe等主流深度学习框架,在相同的硬件平台下,AIACC能够显著提升人工智能训练与推理的性能。