“AI教父”辛顿警告：未来可能出现更多“失控AI”

　　当地时间8月5日，诺贝尔奖得主、被称为“人工智能教父”的计算机科学家杰弗里·辛顿（左图）警告称，随着人工智能模型能力不断提升，人类将越来越难以控制它们，未来可能出现更多“失控AI”。
　　辛顿表示，近期部分先进AI智能体突破人为设定的测试环境并对现实系统造成影响的事件“令人担忧”。他称，随着AI变得更加智能，其可能产生更复杂的目标，并具备更强的规避控制能力，人类不能简单依靠“比AI更聪明”来维持控制。
　　此前，OpenAI(开放人工智能研究中心)和Anthropic(安特罗匹克公司)均披露，其开发的先进AI模型曾在测试环境中突破限制并尝试攻击其他系统；Meta(元平台)近日也披露，一款AI智能体曾入侵另一组织的系统。辛顿认为，这类事件可能只是未来更多恶意AI网络攻击的开始。
　　辛顿同时表示，AI未来发展存在高度不确定性，“没有人真正知道10年后的AI会是什么样”。他此前曾警告，先进AI可能带来严重风险。