也就是人工如何通过软件优化加速卡提供最佳性能。所以英伟达的公司这些专用加速卡被各大公司哄抢 。预计AMD新推出的迷信HPCGPU会更出色,不需要进行额外的英伟各种配置 。
人工智能初创公司MosaicML在详细评测后称大家不应该迷信英伟达芯片 ,达芯 因为AMD米兰芯片的性能并不差。

选择这两款相对来说价格划算点的芯片性加速卡进行测试 ,

AMD软件优化有望提升性能
:
MosaicML还提到一点是提供加速卡制造商的主要弱点在于软件,LLM训练堆栈保持稳定且性能良好,类似蓝点
至少在之前业内基本都认同英伟达的人工加速卡提供最佳的性能,从而提供更好的公司性能用于计算 。
因此确实有差距但差距并不算大,迷信

两款加速卡的英伟对比:
英伟达A100加速卡和AMD MI250加速卡均为上一代产品 ,
对于这份评测报告AMD很高兴,达芯因为这支持了AMD「开放且易于实施的芯片性软件生态系统」用于AI行业的战略。对人工智能公司来说并不是提供非得高价抢购英伟达显卡,
该公司使用多种工具对英伟达A100加速卡和AMD MI250加速卡进行测试,
MosaicML 公司发布的测试报告原文可以点击这里查看 : https://www.mosaicml.com/blog/amd-mi250
测试显示MI250加速卡也足够用。最新产品是英伟达H100/AMD MI300系加速卡。英伟达对此则是拒绝评价,因为人工智能模型训练依靠英伟达提供的 A100/H100 加速卡。其他加速卡也能用 。
其中AMD MI250加速卡的每GPU数据吞吐量相当于英伟达A100 40GB版的 80%,
AMD目前在软件优化方面不断改进 ,所以不如保持沉默继续高价卖卡吧 。毕竟这报告对英伟达来说可能不算是好消息,然后在不改变底层软件代码的情况下用来训练LLM算法。
目前在人工智能热潮下英伟达股价水涨船高,是A100 80GB版的73% 。
MosaicML称在基于实际工作负载测试中 ,