DeepSeek迈出重要一步:华为芯片助力新一代大模型训练

6433

11月3日,科创板日报与财闻分别报道,DeepSeek计划使用华为的昇腾950芯片,从头开始训练下一代大模型V5,预计明年实现落地。这一消息让我想起四年前的一个情况。2022年,美国禁止销售A100和H100时,英伟达在中国高端AI芯片市场的占有率高达95%,几乎垄断。那时,许多人疑惑中国的顶尖大模型能否在没有英伟达的情况下继续发展。如今,这个悬念似乎有了答案。

为了理解这条消息的重要性,需要区分“训练”和“推理”。简单而言,训练相当于生孩子,而推理则是孩子长大后工作的过程。生孩子需要最佳的营养、时间和投入,而推理则可以在已有基础上进行。之前,DeepSeek的V3、R1和V4主要依赖华为昇腾处理推理,但训练环节仍在英伟达的掌控之下。这次V5决定在昇腾950基础上进行预训练,意味着首次使用国产芯片进行训练。

尽管训练和推理的字面区别微小,实际意义却差之千里。高端芯片被禁后,英伟达曾为中国市场提供了特供的H20芯片,性能下调至H100的三分之一。然而到2025年4月,美国政府甚至要求这些也需许可证。英伟达因此在一个季度内标记了45亿美元的库存减值,且还有25亿美元的货无法发出。黄仁勋去年10月直言,英伟达在中国市场的占有率已降至0%。根据财闻数据,现有可合规进入国内的H系列芯片已无法支撑V4和V5的训练,国内大模型公司面临两条路:等待或更换底座,DeepSeek选择了后者。 球友会

回顾过去,这一选择早有迹象。今年春节,DeepSeek的高流量使得服务器崩溃,华为和DeepSeek在假期内快速部署了3000多张昇腾芯片搭建云平台。9月30日,DeepSeek对自家的工具链进行了重写,并与华为合作,适配大量底层算子,为V4和V5的发布做了准备。因此,今天的消息并非偶然,而是必然的结果。

昇腾950搭载华为自主研发的HBM内存,全球少数几家公司具备此技术。950超节点能够同时支撑8192张卡,FP8算力达到8 EFLOPS。徐直军表示,昇腾在国内市场的份额已达50%,而英伟达仅剩8%。IDC的数据显示,2023年上半年,英伟达的芯片出货量同比下降44%,而华为则接近翻倍。

这件事情的真正意义在于为后续探索提供了途径。当训练和推理全链路得以在国产芯片上实现,只要有一家成功,其他公司跟进的成本将大幅降低。之前很多企业不敢尝试是因为没有前例,而现在有了先行者。 球友会

当然,也要指出一些挑战。就芯片制程而言,徐直军已承认华为与英伟达仍有差距,V5是否能如期高质量完成训练,还需看最终效果。不过,当前的发展方向已经发生改变,四年前是被动寻找替代,而现在顶级企业主动将新一代产品建立在国产芯片上,这两者性质截然不同。

about image

最后,与我们息息相关的是,DeepSeek曾表示,950超节点正式投产后,模型服务的价格将大幅降低,促进国产算力发展,使得AI技术更加普及,未来即便收费,人人都能使用AI。大家对此怎么看?

尽量避免不必要的冲突,保持冷静,并在有需要时寻求裁判的帮助。...

尽量避免不必要的冲突,保持冷静,并在有需要时寻求裁判的帮助。...