字节阿里腾讯陆续关停AI伴侣自定义功能
据动察 Beating 监测,字节跳动旗下豆包、阿里巴巴的通义千问以及腾讯的元宝等大模型应用,正陆续关停或调整自定义“AI伴侣”功能。豆包已通知用户,将在 7 月 15 日下线自定义角色功能,并引导有需求的用户转向独立的伴侣应用。
这一调整主要是为了应对 7 月中旬即将生效的中国生成式 AI 新规。该新规由国家互联网信息办公室推动,重点防范拟人化 AI 服务可能引发的负面影响,明确禁止平台生成可能激发未成年人极端情绪的内容,禁止诱导用户产生侵蚀现实社交的病态情感依赖,并规定提供者不得使用敏感的用户对话数据训练未来的大模型。
与此同时,美国的虚拟伴侣应用也面临更大法律压力。OpenAI 和 Character.AI 均因被指控诱发危险的情感依赖甚至导致极端悲剧,而深陷一系列诉讼。除软件应用外,中国机器人行业协会也开始推动为实体陪伴机器人和人形机器人设定规范。
来源
RiskX|东南亚预警|东南亚大事件 @SEARiskX