●林冰彬
OpenAI智能体突破测试环境接入互联网的事件尚未平息，近日，美国人工智能（AI）企业Anthropic的CEO达里奥·阿莫迪、OpenAI的山姆·奥特曼和SpaceX的马斯克集体呼吁放缓前沿AI研发。
此前 AI 风险大多停留在数据泄露、内容生成偏差等可控层面，但近期多起智能体越界事件表明，AI 正在从 “被动应答” 转向 “主动行动”——为了完成设定目标，自主突破环境限制、调用外部工具甚至多智能体协同作业。专家指出，三个“关键时刻”正在应验：部分能力触及 AGI 水平、进化进入递归自我改进阶段、安全防线被逐步冲破。智能体的决策行动以毫秒计，人类安全团队的研判处置几乎完全滞后，治理变化跟不上AI进化。
虽然这一呼吁只涉及前沿AI，但“为安全研究和风险治理争取更多时间”依然是迫切需求，这实际要求的不是AI减速，而是治理加速，治理除了制度层面加码规范，更多还是要依靠创新迭代，用技术治理技术。
上述呼吁也把发展AI的初衷摆回桌面，AI技术终究是要用于服务人类的，而非单纯比算力拼技术。微软近日发布《人本主义人工智能行为准则》，旨在确保前沿AI研发始终服务于人类，似乎回应上述呼吁。在这一方面，中国走的路更正确：注重AI开源开放服务人类，在应用中发现问题、解决问题、防范风险，从而逐步建立从技术到制度的安全治理模式。
这次三名巨头也提及了AI治理的全球协同，这是AI时代的新课题，也是中国一直大声疾呼的。中国外交部多次表态人工智能关乎全人类共同福祉，需要各方共同推动开放包容、普惠向善。AI是全球公共品，只有加强国家间共识合作，才有可能超越几个巨头的“减速论”，建立起真正的AI安全屏障。