在中国一项针对拟人化人工智能(AI)管理法规生效在即,包括阿里巴巴 NYSE:BABA、字节跳动在内的科技巨头宣布,将下线旗下面向个人用户(C端)的一些智能体功能。
中国国家网信办等多部门出台的“人工智能拟人化互动服务管理暂行办法”将于7月15日生效施行。该法规要求服务提供主体明确拟人化互动服务部署、运行、升级、终止服务等各阶段安全要求,同时加强安全监测和风险评估,及时发现并纠正系统偏差、处置安全事件等。
字节跳动旗下原生AI聊天应用--豆包日前向用户发布通知,由于产品功能调整,智能体功能将于7月15日下线。阿里巴巴旗下千问App也同步发布了类似的通知。
网信办在4月发布的“暂行办法”答记者问中指出,随着人工智能技术的快速发展,拟人化互动服务已成为重要应用方向,在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力,但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等风险。
“暂行办法”第十条显示,拟人化互动服务提供者应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力,不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。
此外,拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;应当建立未成年人模式,提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项。
在豆包、千问等聊天应用之外,中国近期亦加强了针对高度拟人化人形机器人硬件的治理。两家行业协会日前发布倡议,提倡把安全伦理规范要求融入人形机器人产品设计、研发、广告宣传、应用全过程,并防范对用户的人身伤害风险。(完)