得益于创新的训练技术,人工智能 (AI) 进入了新的发展阶段。这些方法由 OpenAI 和其他领先公司引领,旨在创建更智能、更高效、能够像人类一样推理的模型。
让我们看看这篇文章中的所有细节。
更高效的模型和人类推理:人工智能的训练进展如何
得益于有望彻底改变该领域的创新训练技术的引入,人工智能(AI)正面临关键的转折点。
像 OpenAI 这样的公司确实正在努力克服当前方法的局限性,解决可扩展性、成本和能耗问题。
OpenAI 的 o1 模式是主要创新之一,代表了人工智慧如何朝著更人性化和永续发展的方式发展的具体例子。
近年来,大型语言模型(LLM)的扩展已经达到了临界点。尽管 2010 年代取得了重大进展,但研究人员遇到了越来越多的困难。
OpenAI 和 Safe Superintelligence 联合创始人 Ilya Sutskever 强调,现在的重点已转向品质而不是数量。
他表示:「朝正确的方向扩展是最重要的。」这表明仅仅扩展模型已不足以实现重大改进。
从这个意义上说,OpenAI 的 o1 模型因其独特的方法而脱颖而出。它不是仅仅依赖计算资源的增加,而是使用模仿人类推理的技术。
透过将任务划分为多个阶段并接收专家的回馈,o1 设法以更准确和更具策略性的方式处理复杂的数据。
此外,采用一种称为「测试时间计算」的方法可以更有针对性地分配运算资源,在成本不呈指数级增长的情况下提高效能。
OpenAI 研究员 Noam Brown 在 TED AI 会议上提出了这项创新的具体例子。
它确实证明,一个机器人在一手扑克牌中仅推理 20 秒,所取得的结果相当于训练了 100,000 倍时间的模型的结果。
这项结果凸显了新技术使人工智慧更强大、更有效率的潜力。
能源和数据的挑战
除了高昂的成本之外,训练大型人工智慧模型还涉及大量的能源消耗。训练运作需要大量的运算能力,对电网和环境产生明显的影响。
另一个关键问题是数据的稀缺性:语言模型现在已经耗尽了大部分线上讯息,这给未来的发展带来了前所未有的挑战。
为了解决这些问题,研究人员正在探索更永续的方法。例如,o1模型使用专门的数据,仅对需要复杂推理的任务进行最佳化处理,从而减少整体资源消耗。
换句话说,新技术不仅重新定义了模型的训练方式,而且可能改变 IA 硬体的牛市。
像人工智慧晶片生产领域的领导者英伟达这样的公司可能必须调整其产品以满足新的需求。
由于人工智慧晶片的需求,英伟达在 10 月成为全球最有价值的公司,但它可能会面临来自提供替代和更有效率解决方案的新玩家的日益激烈的竞争。
竞争与创新
其他实验室,包括 Google DeepMind、Anthropic 和 xAI,正在开发 OpenAI 采用的技术的自己版本。这场竞赛旨在激发进一步的创新,为日益先进和多样化的人工智慧模式铺平道路。
日益激烈的竞争也可能降低与人工智慧相关的成本,使更多的公司和行业更容易获得这些技术。