原创｜科技考拉

外网最近超滋扰的。多位AI大佬在冒失媒体下场爆料，称大模子预锤真金不怕火第一性旨趣Scaling Law最早的原始权衡来自百度，而非外界一直以为的OpenAI。

南华早报则发表了报说念《Did China’s Baidu discover scaling laws before OpenAI? A debate rekindles in AI circles》，称「尽管好意思国在AI模子窜改方面一直被视为向上者，但最新的经营流露，中国在探索这些意见上可能更为超前」，进一步把视线和神情拉升到了中好意思AI竞赛的高度。

这到底是怎么回事？在Scaling Law的发现和权衡中，百度和OpenAI实质又各自演出了什么变装？

谁孝顺了最早的Scaling Law权衡？

在以前几年中，业界的广宽融会是，对于Scaling Law的第一篇有用论文，是OpenAI在2020年发表的《Scaling Laws for Neural Language Models》。

第一个公开声明百度对Scaling Law孝顺的，是Anthropic首创东说念主兼CEO Dario Amodei。Anthropic被熟知的产物是Claude，和GPT、Gemini并称好意思国模子界「三巨头」，Dario Amodei本东说念主的经历则流露，2014年11月- 2015年10月时期，他在百度硅谷东说念主工智能履行室（SVAIL）职责。

按照Dario Amodei的说法，2014年与吴恩达在百度权衡语音识别的时候，他们就非细腻不雅察到了Scaling Law，「给这些模子的数据越多、估计越多、锤真金不怕火越多，它们的发扬就越好」，不外其时莫得精准权衡。

随后，越来越多行业东说念主士启动发声爆料。

Meta权衡员、康奈尔大学博士候选东说念主Jack Morris称，「大大齐东说念主不知说念，对于缩放定律的原始权衡来自 2017 年的百度，而不是 2020 年的 OpenAI。他们描绘了模子参数和数据集标记对失掉的影响。还对图像和音频进行了测试。他们仅仅用 LSTM 代替了 Transformers，而况莫得将他们的发现定名为定律」。

他提到的，是2017年发表的论文《DEEP LEARNING SCALING IS PREDICTABLE, EMPIRICALLY》，著述经营了机器翻译、话语建模等规模的Scaling表象，第一作家为Joel hestness。公开云尔流露，2017年-2019年，Joel hestness在百度职责。

有爆料称，曾在Open AI参与了GPT-3等款式开采的AI人人Gwern Branwen粗鄙拿起，「这篇论文的首要性是止境被漠视的」。

然后有东说念主发现，OpenAI的《Scaling Laws for Neural Language Models》中，其实还援用了Joel Hestness2019年的论文《Beyond human-level accuracy: computational challenges in deep learning》。

时刻线捋剖析后，事情就变得相配昭着了。

在OpenAI之前，百度也曾更早孝顺了对Scaling Law的原始权衡。事实上在Scaling Law当先被不雅察到的当然话语惩处规模，百度亦然最早下场的玩家之一，并一直在坚抓参加。

百度的深度学习权衡院竖立于2013年1月，别传是大众企业界第一家用深度学习来定名的权衡院。图灵奖得主、Meta首席AI科学家杨立昆在《科学之路》汉文版的自序中称，「百度是最早部署贸易化深度学习系统的大型公司之一，向上于谷歌和微软」。

AI竞赛，新一轮时刻博弈

无人不晓，百度在国内一向有「AI东说念主才的黄埔军校」之称，走出了很多闻明的AI赛说念创业者。Dario Amodei此次的发声，则让外界果断到，即使把视角放到外洋AI规模，这一论断也仍然竖立。

百度相似走出了不少外洋AI大拿，包括好意思国头部AI企业的一些中枢东说念主物。

在百度硅谷AI履行室（SVAIL）作念权衡员，是Dario Amodei从斯坦福博士毕业后的第一份职责，自后他曾加入谷歌和OpenAI，2021年创立了Anthropic。

在百度任职时期，Dario Amodei招募Jim fan进入SVAIL职责。Jim fan咫尺是英伟达高档科学家、东说念主工智能一号位。

更被东说念主熟知的是曾在百度担任首席科学家的吴恩达。李彦宏曾在采访中提到，其时吴恩达在谷歌作念Google brain，他想买更多的GPU，但谷歌以为本钱太高了，「咱们说你来，敷衍买，他就来了」。

不管是时刻理念、资源参加、东说念主才挖掘，如故在计谋视线上，百度齐展现出了在AI规模的高度前瞻性。

一个既定趋势是，AI也曾成为新的时刻博弈赛场。芯片、算力、模子性能、东说念主才储备等，齐将是这一轮AI竞赛的要道赛点。

前谷歌CEO Eric Schmidt将这场竞赛称作「史诗般的较量」，并示意，中国推出了一些与好意思国发轫进模子相似的模子，还学会了用更少的芯片完成职责，「这标明了他们工程师的才气」。

值得注目的是，尽管百度孝顺了对Scaling Law的原始权衡，但李彦宏很早就建议了预锤真金不怕火模式的局限性。Scaling Law之是以有「暴力好意思学」之称，便是因为预锤真金不怕火对算力和经济参加的极高条目，在国内的贸易环境下，这种模式注定只适合头部大厂。

因此，李彦宏一直在倡导「中国AI的发展特质应该是把握驱动」。百度则但愿为AI把握打造一套全新的大模子基础轨范。凭证2024百度寰球大会上的野心，这套基础轨范应当包括智能体平台、无代码用具、智能云估计等在内。

大略开云体育(中国)官方网站，在中好意思AI竞赛中，这么的中国特质念念路也会鼓舞产生一些变化。毕竟，要是复盘转移互联网所带来的上一轮产业变迁，也不错找到相配较着的中国特质。