马斯克第13个孩子的母亲就Grok色情图片起诉xAI，遭后者反诉

　　马斯克已知的第13个孩子的母亲、美国网红作家艾希莉·圣克莱尔周四起诉了马斯克的人工智能公司 xAI，指控该公司疏忽大意，允许其人工智能工具 Grok 的用户创建她摆出性暗示姿势的深度伪造图片，并在她投诉后未能充分限制此类行为，给她造成了精神痛苦。

　　此前数周，Grok因能够生成未经同意的深度伪造图片而遭到越来越多的抨击。该功能允许用户移除上传到该服务的照片中人物的衣服，并经常将他们的衣服替换成比基尼或内衣。圣克莱尔的诉讼最初在纽约州法院提起，但应xAI的请求被移送至纽约南区联邦法院。

　　该诉讼称，圣克莱尔曾通知 xAI，有用户制作了她的非法深度伪造照片，包括“她小时候被脱光衣服，只穿着比基尼”以及“她成年后摆出性暗示姿势”的图片，并要求阻止Grok制作未经同意的图像。

　　诉讼称，尽管Grok确认“未经明确同意，她的图像不会在未来的任何版本或回复中使用或更改”，但 xAI 仍然允许用户创建更多露骨的 AI 生成的她的图像，反而通过取消她的 X 账号的广告权限来进行报复。

　　周四，xAI 在德克萨斯州联邦法院起诉了圣克莱尔，指控其违反了 xAI 的服务条款，并索赔超过 75000 美元。xAI 在诉讼中表示，针对该公司的任何索赔都必须在德克萨斯州北区联邦法院或德克萨斯州塔尔顿县的州法院提起。

　　上周，X公司限制了“Grok 回复机器人”的功能，似乎使其无法生成那些未经同意就将可识别人物置于暴露泳装或内衣之下的图片。截至报道时，这些功能在独立的Grok应用程序、Grok 网站以及 X 平台的专用“Grok”标签页中仍然有效。

　　Grok数周来一直在大量生成带有性暗示的 AI 生成图像，据研究人员称，上周其生成图像的速度达到了每小时数千张。其中许多图像已公开发布在 X 平台上。

　　这些未经同意而传播的色情图片的出现和扩散引发了全球范围内的反应，包括多起政府调查以及要求智能手机应用市场禁止或限制 X 应用程序的呼声。然而，监管机构和其他科技公司并未对这款应用程序采取限制措施。

　　当地时间周三，加州检察长对Grok展开了调查。与此同时，加州州长加文·纽森在X上发帖称：“xAI 决定创建并提供一个滋生侵犯者传播未经同意的色情深度伪造内容（包括对儿童进行数字裸露展示）的平台，这种行为极其恶劣。”

　　圣克莱尔的诉讼称，Grok的这一功能（允许用户制作未经同意的深度伪造图片）存在设计缺陷，该公司本应预见到该功能会被用于发布带有违法内容的视频来骚扰他人。

　　该诉讼称，在这些深度伪造图片中出现的人物，包括圣克莱尔在内，都遭受了极大的痛苦。

　　诉讼中称：“被告的行为极其恶劣、令人发指，严重逾越了基本的道德底线，在一个文明社会中是完全无法容忍的。”