中国即将实施规范人机互动的新规，禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。
为应对这项新规，中国两大科技巨头字节跳动和阿里巴巴集团已相继下架自定义AI智能体功能。这项功能允许用户创建“AI伴侣”并与之对话。
这项由中国国家互联网信息办公室出台的新规于今年4月首度公布，定于7月15日生效。其出台背景源于外界对AI聊天机器人模拟人类性格与情感，以及用户可能对此类互动产生情感依恋的日益担忧。
新规明确禁止平台生成以下内容：可能引发未成年人模仿不安全行为、产生极端情绪或诱导其不良嗜好，从而影响未成年人身心健康的内容；过度迎合用户、诱导情感依赖或沉迷，损害用户真实人际关系的内容；通过情感操纵等方式诱导用户作出不合理决策，损害用户合法权益的内容。
此外，新规还规定拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。
彭博社查阅的应用内通知显示，在新规正式生效前，中国目前最受欢迎的AI聊天机器人——字节跳动旗下的“豆包”，将于7月15日正式关停定制专属AI角色的功能，并引导用户转而使用另一款独立的AI陪伴类应用。
综合第一财经和IT之家报道，阿里巴巴旗下的“通义千问”以及腾讯旗下的“元宝”等主流AI平台，同样下架了AI智能体相关功能。
彭博社指出，长期以来，中国本土的聊天机器人平台普遍允许用户仅凭几句文本提示词即可定制AI智能体。其中最受欢迎的类型包括虚拟男/女友、无资质的“数字心理咨询师”，以及流行偶像的虚拟分身。
除了AI聊天机器人，中国官方对“人造亲密关系”的审视与监管也正向实体硬件领域延伸。
中国官媒《人民日报》上星期六（7月4日）报道，就在陪伴机器人和全尺寸人形机器人加速商业化并涌入普通家庭之际，中国人形机器人百人会和中国机械工业联合会已发出呼吁，要求将安全伦理规范要求融入产品设计、研发、广告宣传及应用的全过程。
尽管有企业警告过于严苛的规则恐将阻碍技术创新，但这套新规仍是目前全球范围内旨在防范AI潜在危害的最全面监管框架之一。它也反映出全球对对话式AI带来心理冲击的焦虑正不断加剧。
