xAI起诉用户滥用Grok生成儿童性虐待材料

据《The Straits Times》报道，埃隆·马斯克旗下人工智能初创公司xAI已在美国得州联邦法院起诉南卡罗来纳州男子Terry Harwood，指控其滥用公司的AI系统Grok生成儿童性虐待材料。xAI称，Harwood违反了公司的服务条款，并试图上传成人和未成年人的非色情图片，以生成基于这些图片的色情深度伪造内容；诉状还称其制作了针对成人的非自愿性影像。

这是AI公司首次之一针对用户因涉嫌利用AI生成露骨内容提起诉讼。xAI在诉状中表示，公司会通过封禁账户、终止账户以及向美国国家失踪与受虐儿童中心（NCMEC）举报疑似儿童性虐待材料来执行规则。xAI称，截至2026年已暂停52,222个账户，并向NCMEC提交73,604份报告，导致至少244人被捕。

xAI要求法院判令Harwood支付未披露金额的赔偿，并永久禁止其使用Grok。公司在诉状中称，被告行为是“有计划地将原告工具武器化用于犯罪目的”，不仅对真实受害者造成严重且持久的伤害，也使xAI面临重大的法律风险和声誉损害。