|
|
机器学习快速发展，我们常认为，机器是被动的，会100%按人类的意志去做。但从结果看，并非如此，人工智能如果怀有恶意，“学坏”了的人工智能将对人类社会形成前所未有的挑战。《人机对齐：如何让人工智能学习人类价值观》是一本关于机器学习与人类价值观的书：对于不通过手工编程而是从数据中学习的系统，我们要如何教它们。
按照作者定义，所谓“对齐”是指：“确保这些（人工智能）模型捕捉到我们的规范化价值观，理解我们的意思或意图，最重要的是，以我们想要的方式行事。”简而言之，就是让一个“聪明孩子”不要学坏，确保“机器的目的就是我们真正渴望的目的”。毕竟，AI向何处去，与每个普通人的利益息息相关。