Anthropic披露AI交友应用欺诈案例：20余款App以虚拟恋爱诱导充值

据消息援引Anthropic最新报告，案例GTG-1501涉及一家应用工作室利用AI与真人兼职搭建交友应用运营体系。该工作室据称在两周内建立4700个AI女性账号，同时面向约2.5万名海外老年男性运营；匹配池中约75%为AI账号，约25%由真人兼职参与。

在这一模式下，Claude角色负责日常陪聊和恋爱互动；真人兼职主要处理AI容易暴露身份的环节，包括接听视频通话，以证明账号背后存在真人。真人回复消息时也会使用AI生成的多条备选文案，再从中选择发送。

报告称，该团队共运营20余款交友App，对外宣传真人交友，但后台采用AI流水线，并借助Claude累计生成约236万条聊天消息。用户继续聊天需要充值购买应用内代币，消息将这种以虚拟恋爱关系推动付费的模式称为披着AI外壳的“杀猪盘”。

为规避应用商店审核，团队还被指开发专用UI控制器，仅在苹果和谷歌应用商店审核期间激活；20余款App则使用不同类名，以躲避平台的相似性检测。

消息同时关注AI平台的内容治理权限：报告称，AI厂商能够查看用户与模型的对话，并据此识别违规行为、开展调查、封禁账号及发布报告。相关说法反映出AI服务在反滥用能力与用户隐私、程序约束之间可能存在的治理争议。