最近的AI行业仿佛在不断创造新词汇和概念，令人人感到应接不暇。此前，OpenAI的总裁格雷格·布罗克曼曾声称，GPT-6 Astra已达到了AGI的门槛。没过多久，业界又开始炒作一个新名词——RSI，意为递归自我改进。简单来说，RSI是指AI能够自行编写代码、执行实验和调整训练过程，然后将这些改进传递给更先进的后续模型。这种循环若不断加深，可能使得研发速度加快，最终超越人类的理解和控制能力。

与此同时，与RSI相关的安全问题也引起了热议。例如，OpenAI的首席科学家Jakub Pachocki曾将AI比作一种尚未被人类完全理解的“外星智能”。Anthropic的CEO达里奥·阿莫代伊更是发出了警告，认为更强大的智能体可能带来网络攻击、失控甚至文明崩溃的风险。而另一位业内大佬，NVIDIA的黄仁勋则在一场峰会上表示，安全与创新并非只能二选一。这样的局面让人感到困惑，产业链内部分化严重，一部分人在大力推进技术，另一部分人却在呼吁减缓步伐。

RSI的概念虽然最近受到关注，但其理论基础早在1965年就已提出。当时，英国数学家I.J. Good设想，如果一台机器能够超越人类的智力，它也应该具备设计更智能机器的能力。这使得机器智能可能进入一个自我加速的正反馈循环，从而引发“智能爆炸”。而RSI的当前研究则关注AI是否能改变它的自我学习系统，以提升效率，进行更有效的自我迭代。

最近，来自上海交通大学、清华大学和字节跳动等机构的研究人员合作撰写了一篇论文，详细划分了RSI的自主性，从L1到L5五个层级。在L1层面，系统负责执行人类指派的改进方案；而L2层面，则能够自主寻找改进的方法。L3层次系统可以识别需要的经验，L4能将环境反馈转化为长期改进。到了L5层次，改进机制本身也可以成为优化的目标，意味着AI不仅执行任务，还能改变其内部规则及研究方法。

在一种更大胆的设想中，AI将获得设定目标和修改评估标准的能力。一旦实现，人类将不仅仅是创建单个模型，而是制造一个持续推出新模型的系统。在这种情况下，后续的AI可能不再由人类逐项设计，而是由AI自身选择模型结构、训练流程等。

OpenAI在9月6日发布的内部报告中显示，他们已经开发出“自动化研究实习生”，这些系统在人类指导下可以撰写代码、实验和分析数据，完成一些之前需要经验丰富的研究人员数天才能完成的任务。到8月中旬，OpenAI的智能体运行时间已经相当于每个工作日3.1天。而Anthropic正在推动AI在安全研究方面的应用，其Claude系统能够自我查文献、提出方案、生成训练数据和反复改进。在一次实验中，Claude Sonnet 5成功辅助Claude Opus 4.8提升了安全表现。

除了通过极致改进模型以外，RSI还有一个更为实际的应用方向，即对模型外围的软件系统进行改进。最新消息显示，北大校友翁荔重返OpenAI后，将领衔开展这一研究。