新的AI推理记录英伟达再次刷新MLPerf记录财团增加了衡量移动性的基准
发布时间：2023年03月16日 点击：[0]人次
新的AI推理记录：英伟达再次刷新MLPerf记录，财团增加了衡量移动性的基准
由AI专家和计算公司组成的联盟MLPerf发布了一组新的机器学习记录。
这些记录是根据一系列基准来衡量的，这些基准可以测量推理的速度：已经训练过的神经网络可以利用新数据完成任务的速度。第一次是针对手机和平板电脑的基准测试中国机械网okmao.com。
据大卫·坎特，MLPerf的上级组织的执行董事，一个可下载的应用程序是在将允许任何人，以测试该作品AI自己的智能手机或平板电脑的功能。
MLPerf的目标是提出一种公平直接的方法来比较AI系统。包括Dell，Intel和Nvidia在内的23个组织总共提交了1200个结果，这些结果经过同行评审并接受了随机的第三方审核。（本轮比赛中Google缺席了。）
与MLPerf于夏季发布的AI培训记录一样，Nvidia是主导力量，在数据中心和边缘计算系统的所有六个类别中都领先于同类产品。据该公司称，包括思科和富士通等合作伙伴提交的资料，使用边缘芯片和数据中心类别的结果为1029个，占边缘和数据中心类别总数的85％。
“在每次测试中，Nvidia的性能都大幅度提高，” Nvidia加速计算的产品管理高级总监Paresh Kharaya说道。Nvidia的A100 GPU在数据中心类别中赢得了胜利，而其Xavier则落后于GPU制造商的边缘计算胜利。
根据Kharaya的说法，在新的MLPerf基准之一（深度学习推荐模型（DLRM））中，单个DGX A100系统相当于1000台基于CPU的服务器。
今年推出了四个新的推理基准，在前一轮的基础上又增加了两个：
BERT，代表来自Transformers的双向编码器表示法，是Google贡献的一种自然语言处理AI。给定问题输入后，BERT会预测合适的答案。
DLRM（用于深度学习推荐模型）是一种推荐器系统，经过培训可以优化点击率。它用于推荐用于在线购物的商品，并对搜索结果和社交媒体内容进行排名。
Facebook是DLRM代码的主要贡献者。
3D U-Net用于医学成像系统，以判断MRI扫描中哪些3D体素是肿瘤的一部分，哪些是健康组织。它是在脑肿瘤数据集上进行训练的。
RNN-T，用于递归神经网络换能器，是一种语音识别模型。给定一系列语音输入，它将预测相应的文本。
除了这些新指标外，MLPerf还为移动设备建立了第一组基准，这些基准用于测试联发科，高通和三星的智能手机和平板电脑平台以及英特尔的笔记本电脑。新的基准测试包括：
MobileNetEdgeTPU，图像分类基准，被认为是计算机视觉中最普遍的任务。它代表了照片应用程序如何能够识别您或您的朋友的面孔。
SSD-MobileNetV2（用于使用MobileNetv2进行单发多盒检测）经过培训，可以以300x300的分辨率检测输入帧中的80种不同的对象类别。它通常用于识别和跟踪摄影和实时视频中的人物和物体。
DeepLabv3 + MobileNetV2：用于了解VR和导航等场景，并在计算摄影应用程序中发挥作用。
MobileBERT是较大的自然语言处理BERT模型的针对移动设备优化的变体，可对其进行微调以解决问题。给定问题输入后，MobileBERT会生成一个答案。
Nvidia的A100席卷了AI推理任务，可以一次（离线）获得所有数据，也可以像在线（服务器）一样交付这些数据。
Nvidia的A100席卷了AI推理任务的董事会，在这些任务中，数据一次全部可用（脱机）或在线（服务器）交付。
坎特说，这些基准测试是在专用的应用程序上运行的，该应用程序将在数月内提供给所有人。他说：“我们希望人们可以拿出一些东西来购买更新的手机。”
由于财团仍在增加，本周发布的结果被称为0.7版。1.0版可能会在2021年完成。