xAI起诉用户滥用Grok生成儿童性虐待素材

马斯克旗下人工智能初创公司xAI已在美国得克萨斯州联邦法院提起诉讼，指控一名今年早些时候因涉嫌性剥削未成年人被捕的南卡罗来纳州男子Terry Harwood滥用公司AI系统Grok，生成儿童性虐待材料。xAI称，Harwood违反了公司的使用条款。该案是已知较早由AI公司针对用户因使用AI生成露骨内容而提起的诉讼之一。

xAI还表示，公司一直通过账户停用、终止以及向美国国家失踪与受虐儿童中心（NCMEC）报告疑似儿童性虐待材料来执行规则。诉讼文件称，xAI在2026年已暂停52,222个账户，并向NCMEC提交73,604份报告，由此导致至少244起逮捕。

xAI指控Harwood向Grok上传了成人和未成年人的非色情图片，并试图以此生成带有性内容的深度伪造图像；诉状还称其制作了针对成年人的非自愿色情影像。xAI请求法院判给未披露金额的赔偿，并发布永久禁令，禁止Harwood继续使用Grok。公司在诉状中表示，被告的行为是“将原告工具武器化用于犯罪目的的有计划行为”，使真实受害者遭受严重且持久的伤害，同时给xAI带来重大法律和声誉风险。