互补的人工智能越来越“理解”你。人与机器关系的新界限在哪里？

近年来，随着情感计算、自然语言处理、多模态交互等人工智能技术的发展，拟人化交互AI服务通过模拟人的性格特征、思维模式和沟通方式，实现了从“机械对话”到“深度共情”的跨越，成为隐藏在屏幕后面的用户的“精神伴侣”。但与此同时，体现人工智能的交互服务也面临着信息安全、隐私侵犯、社会伦理、儿童保护等多重风险挑战。中央经济工作委员会提出深化拓展“人工智能+”，完善人工智能治理。近日，国家网信办起草了《交互式拟人人工智能服务管理暂行办法（征求意见稿）》（以下简称《办法》）。征求意见截止日期为2026年1月25日。中国信息通信研究院经济与政策研究所副所长李强志表示，《办法》有效化解了人工智能情感交互和心理疗愈应用的风险，体现了“在发展中规范、在标准中发展”的治理智慧，对于构建人与机器的健康、公平、互惠的关系具有重要意义。拟人化交互服务面临多重风险和挑战，目前，拟人化交互人工智能服务（例如互补人工智能）正在展现出像人类一样理解情境和表达同理心的能力，为人机关系和社交互动创造了新的模式，同时快速发展。拟人化交互服务的发展也面临着一系列的风险和挑战，包括：从数据隐私的角度来看，我们面临着传达用户最私密的感受和想法的数据被滥用和暴露的风险。从伦理角度来看，高度拟人化的设计很容易对用户造成非理性的情感依赖，甚至导致现实的社会疏离。在安全方面，缺乏有效的年龄识别和内容过滤，使弱势群体的心理健康甚至人身安全面临风险。国家互联网应急中心副主任张震表示，人工智能作为一种新的技术应用形式，拟人化交互服务具有独特的技术特征和显着的风险特征。例如，情感交互的深度与信息查询、内容生成等传统功能服务的深度不同。人类形态交互服务可以通过算法模拟人类情绪反应机制，与用户建立情感联系，显着影响用户的心理状态和行为模式。与用户关系的连续性。拟人化的交互服务往往涉及高频、长时间的交互过程。用户可以与人工智能系统形成类似于人际关系的情感纽带。持续的互动互动会累积并放大潜在的风险。 “值得一提的是，未成年人处于认知发展阶段，老年人面临数字鸿沟的挑战。这些群体在使用拟人化互动服务时，需要适当的引导和保护机制，避免过度依赖。此外，拟人化互动服务往往在互动过程中更直接地生成内容，价值观的传递更加隐秘和微妙，具有更深层次的意义。”影响用户的世界观、人生观和价值观。西南政法大学校长、中国法学会副会长林伟表示，在此背景下，《办法》的制定，有利于推动人民拟人互动智能服务法治化发展有序开展，引领人工智能“责任创新”，为构建“以人为中心”的人工智能治理体系提供重要制度支撑。构建多维度风险防控体系。林伟表示，《对策》将精准识别并系统应对社会两大核心特征带来的突出风险。 “拟人化”、“情感互动”，构建以“人机界限模糊”为重点的多维度风险防控体系我们的治理。 “对策”包括建立身份透明体系、划定拟人化的安全红线，以及因人机界限混淆而引发的认知混乱、信任下降、侵犯道德权利、违反伦理道德等风险。我们提出了精确预防问题的方法。 “以可见识别义务为核心的身份透明制度，重点是保护用户的知情权和选择权，为法律责任提供明确的起点，保护匿名可以有效遏制技术滥用，降低认知混乱和信息来源失信的风险。”林伟说。拟人化的互动服务由于其高度的情感反应和友情，自然会带来成瘾的风险。 《办法》提出，服务商在显着位置提醒用户正在与人工智能交互而非自然人。当用户首次使用或再次登录时，应通过弹窗或其他方式动态告知其交互内容是由人工智能生成的。活动阶段需要设置冷却中断提醒功能。如果用户需要连续使用服务超过一定时间，则应提醒他们休息一下，例如通过弹出窗口，目的是定期打破算法所创造的沉浸感。为加强对特殊群体的保护，《办法》提出拟人互动服务提供者建立应急机制。如果用户明确暗示自杀、自残或其他极端情况，人工将接管对话并立即采取措施联系用户的监护人或紧急联系人。针对未成年人和老年用户，它提供了用户必须在注册过程中索取用户的父母、紧急联系人等信息。同时，《办法》还强调严格保护用户交互信息。 “情感个人信息可以映射用户的内心生活、情感弱点和潜意识倾向，如果使用不当，可能会导致心理操纵、待遇歧视、情感勒索等风险。同时，‘情感计算’相关技术可用于提供成瘾服务，用户可能在不知不觉中暴露更多敏感信息。因此，更严格的目的限制、用户交互数据的安全存储和‘限制和禁止使用’是精神权利保护的延伸。” “在数字智能时代，”林伟说。哈西托倡导人与机器和谐共处，“这一举措明确了安全边界，同时积极鼓励张震表示，拟人交互服务是人工智能技术应用的重要方向，在教育培训、医疗健康、养老服务、文化娱乐等多个领域具有广泛的应用潜力。李强智表示，在技术层面，拟人交互服务推动情感计算、多模态交互、长时记忆等前沿技术的集成创新和阶段性落地，并提供重要的应用检验。在经济层面上，服务拟人化的交互活动正逐渐应用于娱乐领域，成为快速增长的新兴领域，包括角色扮演、心理等。逻辑治愈、数字复兴、人工智能玩具等产品和服务业态，带动了从底层算法、内容创作到硬件终端的产业链发展，成为“人工智能+”运动中极具活力的消费级应用。在社会层面，拟人化互动服务作为有针对性的社会压力释放阀和情感供给站，在人口日益老龄化和城市生活加剧个体孤独感的背景下，为特定群体提供触手可及的情感支持。在李强志看来，这一“举措”不仅鼓励科技释放其抚慰心灵、增进福祉的潜力，而且在隐私、道德和安全方面划下了一条不可逾越的界限。目标是拟人化的交互服务真正助力构建人类与机器共存的“温暖智能社会”推动社会不断发展，走向科技真正卓越的美好未来。
（编辑：李芳）