发布日期：2025-02-07 10:44 点击次数：181
在DeepSeek火爆各人之际，一个更低资本的AI推理模子悄然登场...
近日，一项来自斯坦福大学和华盛顿大学等机构的斟酌效力引起了市集热心，李飞飞等东说念主以不到50好意思元的云计较用度成效执行出了一个名为s1的AI推理模子。斟酌效力标明，s1在数学和编码材干测试中与OpenAI的o1和DeepSeek的R1等模子的发达不相高下。
s1论文作家Niklas Muennighoff暗示：
“DeepSeek r1令东说念主旺盛，但穷乏OpenAI的测试时间彭胀图，况且需要大批数据。咱们推出了s1，仅使用1K样本和苟简的测试时间干扰即可重现o1的预览彭胀和性能。”
苟简高效的执行标准，挑战传统AI研发模样s1的斟酌团队暗示，s1模子所以谷歌推理模子Gemini2.0 Flash Thinking Experimental为基础模子，通过蒸馏法提取出来的。
他们经受了一种名为test-time scaling的标准。斟酌团队构建了一个微型数据集s1K，通过难度、种种性和质地三个尺度来筛选，其中包括1000个经过全心挑选的问题以及相应谜底，并附上了“推理”历程，仅使用了16台英伟达H100 GPU，耗时26分钟就完成了执行。
这种标准与传统的大范围强化学习标准（RL）造成显明对比，后者的资本常常较高，DeepSeek、OpenAI皆经受了这种标准。而s1的斟酌通过较小的数据集和监督微调（SFT）蒸馏推理模子，大大裁减了执行资本并提高了效力。
此外，为了提高谜底的准确度，斟酌团队还专揽了一种“预算强制”手艺，不错律例测试时间计较，通过强制提前拒绝模子的念念考历程，或在s1推理时屡次追加“恭候”指示以延迟念念考，从而优化性能。
斟酌披露，新模子s1-32B在使用该手艺后，性能与测试时的计较资源成正研究。
性能忘形顶级模子，激刊行业热心和担忧字据斟酌团队的测试结果可知，在竞赛数常识题上，s1-32B的发达较o1-preview高27%（MATH和AIME24）；且该模子在AIME24上的发达着实与Gemini 2.0 Thinking API至极，披露其蒸馏历程是灵验的。
而s1的出现也激发了行业的担忧。此前，OpenAI曾指控DeepSeek不妥使用其API数据进行蒸馏。
有分析东说念主士质疑，要是任何东说念主皆不错减轻复制和颠倒现存的顶级模子，那么大型AI公司多年的研发参预和手艺蕴蓄可能会受到要挟。而且，尽管蒸馏手艺在以较低资本复现AI模子方面发达出色，但其对新AI模子性能的进步效果并不权贵。
风险教导及免责要求 市集有风险，投资需严慎。本文不组成个东说念主投资提议，也未议论到个别用户颠倒的投资主义、财务情状或需要。用户应试虑本文中的任何概念、不雅点或论断是否相宜其特定情状。据此投资，包袱自诩。