Anthropic封禁多起国家支持的AI监控行动
据联合新闻网援引法新社报道，人工智能公司Anthropic在模型滥用报告中表示，已终止多起利用其AI模型实施的国家支持监控行动。这些事件发生于1月至7月，来源涉及中国、伊朗和西非，目标包括香港民主派人士、亚洲多地的藏人和法轮功团体、伊朗少数族裔及海外伊朗政权反对者。
报告称，一起案例中，伊朗相关人员开发了通过社交媒体账号识别身份的方法；另一起案例中，马里国家安全部门的外包商使用Claude设计可用于情报收集的基础软件。Anthropic认为，AI正在替代相关行动中的部分工程师工作。
Anthropic同时指控中国开发者以欺骗手法使用Claude回答用户问题，并利用相关数据“蒸馏”训练自有模型。公司称，月之暗面（Moonshot）和深度求索（DeepSeek）曾秘密利用Claude为自身用户生成答案。其中一个案例显示，月之暗面在10天内通过5380个虚假账号向Anthropic转送近30万次用户请求，多数账号显示位于新加坡和日本。上述内容均为Anthropic报告中的说法。