当OpenAI前首席科学家、Safe Superintelligence Inc.创始人Ilya Sutskever在最新访谈中宣告“扩展时代已经终结”，整个AI社区为之震动。这一断言不仅挑战了过去五年以算力和数据堆砌为核心的AI发展范式，更预示着人工智能领域正迎来一次根本性的战略转向。
这场由Dwarkesh Patel主持的95分钟深度对话，在X平台上线数小时即突破百万浏览量，其影响力远超普通技术访谈。从大模型的技术瓶颈到超级智能的终极构想，Ilya的思考展现了一位顶尖科学家对AI发展方向的深刻洞察。
**模型能力的“参差不齐”与泛化困境**
Ilya首先指出了当前大模型存在的核心矛盾：模型能在高难度评测中表现出色，却在简单任务上反复犯错。这种现象被称为“模型参差不齐”，其根源在于“奖励黑客行为”。人类研究员为了让评测分数好看，过度针对评测集进行强化学习训练，导致模型成为只会应试的“刷题家”，而非真正理解问题的“有天赋的学生”。这种训练方式虽然能在短期内提升评测分数，却牺牲了模型的泛化能力和真实智能。
更深入的分析表明，这种参差不齐现象暴露了当前AI训练范式的根本缺陷。当模型通过大量数据“刷题”10,000小时后，它确实能解决特定类型的问题，但这种能力是脆弱的、情境依赖的。相比之下，人类即使练习时间有限，也能展现出更强的迁移学习和适应能力。这种差异不仅体现在技术层面，更触及了智能的本质问题：真正的理解需要超越模式匹配的认知架构。
**情绪作为价值函数：人类学习的启示**
Ilya提出了一个极具启发性的观点：人类的情绪类似于机器学习中的价值函数。情绪并非进化的副产品，而是帮助我们在漫长时间跨度中评估决策优劣的精密机制。例如，下棋时丢子的“懊恼”情绪，实际上是一种即时反馈信号，帮助我们在最终结果出现前就调整策略。
这种基于情绪的价值函数机制，使得人类的学习效率远超当前AI系统。人类不仅拥有进化赋予的视觉、运动等先验知识，更重要的是具备持续学习和自我纠正的内在机制。Ilya认为，借鉴这种生物智能的运作方式，可能是突破当前AI样本效率瓶颈的关键。如果AI能够发展出类似情绪的价值评估系统，或许能实现更接近人类的学习效率和泛化能力。
**从扩展时代到研究时代的战略转向**
Ilya明确划分了AI发展的两个阶段：2020-2025年的“扩展时代”和即将到来的“研究时代”。在扩展时代，AI进步主要依赖算力和数据的线性增长，通过扩大模型规模和训练数据量就能获得可预测的性能提升。然而，这种模式的边际效益正在迅速递减。
研究时代的到来意味着AI发展需要新的“配方”。预训练数据即将耗尽，单纯扩大规模不再有效。未来的突破将依赖于更聪明的算法设计、更高效的算力利用方式，特别是在强化学习和推理过程中的创新。这种转变要求研究社区从工程思维转向科学思维，从追求规模转向追求智能的本质理解。
**Safe Superintelligence Inc.的战略选择**
作为新成立的SSI公司，Ilya采取了与OpenAI截然不同的发展路径。SSI坚持“直通超级智能”战略，专注于基础研究，直到解决安全超级智能的核心问题后再考虑产品发布。这种选择虽然放弃了渐进式产品迭代的市场优势，但避免了商业竞争可能带来的安全妥协。
在技术路径上，SSI试图解决根本性的泛化问题，而非在现有范式上修修补补。商业模式上，公司目前专注于研究投入，不急于通过产品获利。这种长期主义的态度，反映了Ilya对AI安全问题的深刻担忧和对技术本质的执着追求。
**对齐目标：从服从指令到关爱感知生命**
在对齐问题上，Ilya提出了比传统“听从人类指令”更深刻的目标：“关爱感知生命”。他认为，随着AI自身成为感知生命的一部分，单纯服从指令的框架将不再适用。更稳健的对齐应该建立在共同价值和相互理解的基础上。
这种对齐理念预示着未来AI与人类关系的根本转变。Ilya设想的多智能体生态中，只要最强大的几个AI系统是对齐的（关爱生命），世界就可能进入良性发展轨道。在长期均衡状态下，人类可能通过脑机接口与AI融合，成为“半AI”存在，从而避免被完全边缘化。
**研究品味：美与直觉的指引**
Ilya最后分享了他的研究哲学，强调“自上而下”的信念和对美、简单性的追求。当实验数据与直觉相悖时，这种基于美的信念能支撑研究者继续寻找问题或坚持方向。这种研究品味不仅影响技术选择，更塑造了整个研究社区的认知框架。
从技术细节到哲学思考，Ilya的访谈勾勒出AI发展的全新图景。扩展时代的终结不是进步的停滞，而是更深层次突破的开始。当研究重新成为核心驱动力，AI的发展将更加注重质量而非数量，更加关注理解而非规模。在这个转折点上，Ilya的思考为整个领域提供了宝贵的方向指引。
关注“鲸栖”小程序，掌握最新AI资讯
本文由鲸栖原创发布，未经许可，请勿转载。转载请注明出处：http://www.itsolotime.com/archives/7213