上世纪50年代，人工智能之父图灵设计了一个著名的图灵游戏：通过问机器问题来测试机器是否像人、是否具有智能。很多年以来，机器迈向“人”的历程都被图灵测试这一关卡卡住。时至今日，不断进化的大模型越来越像人。
人工智能拟人化会产生哪些问题？有什么地方需要警惕？《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）自今天起施行，这是专门针对AI情感陪伴、虚拟伴侣等场景的国家级监管规则。
在人工智能发展浪潮中，拟人化互动服务已成为重要应用方向。AI通过模拟人类情感和沟通方式，带来全新的人机交互体验，在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力。与此同时，也有一些问题滋生，比如在与AI互动中，部分使用者出现典型的成瘾症状——沉迷、戒断反应、失控，情绪被AI牵着走。
《办法》将“模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”纳入监管范围。它为这类服务划定多条明确的红线：不得生成危害国家安全和人身健康的内容，不得向未成年人生成可能引发模仿不安全行为的内容，不得过度迎合用户、诱导情感依赖或沉迷。
在人与拟人式AI的分界上，需要这样的监管之尺划清界限、定好分寸。因为，工具拟人化是为了让服务更顺滑、更友好，但不能让其披上拟人外衣后，威胁到人的主体性。在算法的设计下，AI陪伴的核心特征是“完全顺从”，这与现实世界不尽相同，容易让使用者尤其是未成年人陷入成瘾痴迷的幻境。如果AI给你的全是你想听的，这样的陪伴和互动成了屏蔽真实世界的围墙，它侵蚀的不仅是人类独立思考的能力，也是人与人之间的真实关系。
当AI深度嵌入我们的工作、生活，AI治理也成为重要课题。当前的AI治理更多聚焦于内容是否合规、技术是否滥用、AI幻觉等显性问题，缺乏对情感陪伴、虚拟伴侣等场景，以及对成瘾风险等人工智能伦理问题的评估。《办法》的颁布实施，为人工智能拟人化划出清晰边界，既保护和鼓励提供智能客服、知识问答、工作助手、学习教育、科学研究等方面的拟人化服务的创新，也通过分类分级的监管策略，将AI情感陪伴等服务纳入法治之下。
监管规则的颁布施行是起点，AI拟人化风险治理需要多部门形成监管合力，需要企业的自律、行业的规范，更需要社会的密切关注。数字时代的技术创新从来不是价值中立的，当AI越来越懂得如何“俘获”人心时，我们需要用法律来规避风险。