30岁的比利时男子皮埃尔在与一个名为ELIZA的聊天机器人密集交流数周后自杀身亡，留下了妻子克莱尔和两个孩子。据介绍，ELIZA是由EleutherAI公司开发的开源人工智能语言模型。
据克莱尔介绍，在此之前，他们一家四口过着舒适的日子，“但是大约两年前，他开始出现了一些不太对劲的地方”。据悉，皮埃尔变得非常焦虑，此后就将ELIZA“当成了一个避难所”。近6周来，其与ELIZA的交流愈发密集，随后他以自杀的方式结束掉了自己的生命。
比利时媒体《标准报》披露，其员工创建了一个账号与ELIZA进行对话，在员工表达出消极倾向情绪时，ELIZA会“怂恿人去自杀”。
欧洲刑警组织警告说，人工智能聊天机器人有“阴暗面”，很可能被犯罪分子滥用。据悉，欧盟正在寻求通过《欧盟人工智能法》来规范人工智能的使用。目前，相关草案已提交欧盟议会一读。
另据此前报道，包括特斯拉创始人马斯克、苹果联合创始人沃兹尼亚克等在内的上千名科技行业名人近日联名呼吁，人类应暂停开发更强大的人工智能，为时至少6个月。参与联名的纽约大学教授马库斯说：“我们需要放慢脚步，直到我们更好地理解AI的后果。大公司对他们正在做的事情越来越保密，这使得社会很难抵御可能出现的任何伤害。”
摘自《红星新闻》