炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

（来源：网易科技）

马斯克旗下AI聊天机器人Grok因生成非自愿性明确图像引发的争议持续发酵，美国执法机关已正式介入。美东时间14日周三，加州总检察长Rob Bonta宣布，对xAI及其开发的AI模型Grok启动调查，这标志着该争议从全球舆论谴责升级至具体法律行动阶段。

据加州司法部门官网公告，该调查重点关注Grok“大规模生产”未经同意的深度伪造亲密图像，这些图像被用于在互联网上骚扰女性和女童。调查将确定xAI是否以及如何违反法律。加州州长Gavin Newsom也表态支持这一调查，称xAI的行为“令人作呕”。

这是Grok在全球范围内面临的最新监管挑战。此前，欧盟、英国、法国、马来西亚、印度尼西亚、印度和巴西等多国政府已对该工具采取行动或发出警告。对此，马斯克本周回应称不知情相关情况，并强调Grok已设定拒绝非法请求。

该事件正值美国国防部宣布在机密和非机密网络部署Grok，监管与应用的矛盾凸显了AI技术治理的紧迫性。

加州正式启动调查 指控xAI助长图像滥用

加州总检察长Rob Bonta周三在官方声明中表示：“过去几周，关于xAI制作并在网上发布非自愿性明确材料的大量报道令人震惊。” 他强调，这些描绘女性和儿童处于裸露和露骨性场景的材料已被用于在互联网上骚扰受害者。

根据司法部公告，调查针对xAI“似乎正在促进大规模生产深度伪造的非自愿亲密图像，这些图像正被用于在互联网上骚扰女性和女童，包括通过社交媒体平台X”。Bonta在声明中明确表示：

公告详细列举了Grok的问题。其中提到，过去几周，大量新闻报道指出，Grok 用户从互联网上获取女性和儿童的普通照片，并使用Grok将这些人描绘成具有暗示性和露骨性行为的场景，甚至“脱光”他们的衣服，而这一切都是在当事人不知情或未经同意的情况下进行的。

公告称：

xAI的"辣味模式"成营销卖点

加州司法部的调查聚焦于xAI的产品设计选择。公告指出，xAI将Grok的图像生成模型开发为包含该公司所称的"辣味模式"（spicy mode），该模式生成明确内容。“该公司将此模式作为公司的营销卖点，不出所料地导致了未经同意将人物性化的内容激增。”

该问题在去年Grok Imagine推出后浮现。这款AI图像生成器允许用户通过输入文本提示创建视频和图片，包括可生成成人内容的"辣味模式"。问题在上月底急剧恶化，当时托管在X平台上的Grok显然开始批准大量用户请求修改他人发布的图像，请求内容如"让她穿透明比基尼"。

马斯克将其聊天机器人定位为比竞争对手更具优势、保障措施更少的替代品，加之Grok的图像公开可见因此易于传播，这放大了问题的严重性。

限制措施未能完全奏效

面对争议，Grok表示将图像生成和编辑功能限制为付费订阅用户。上周五，该聊天机器人对图像修改请求的回应为："图像生成和编辑目前仅限付费订阅用户。您可以订阅解锁这些功能。"它仅向拥有蓝色认证标记的X用户授予公开可见的请求权限，这些用户每月支付8美元获得高级功能。

但据美联社周二确认，免费用户仍可通过点击平台上每张图片显示的“编辑图像”按钮使用图像编辑工具，而非标记Grok发出请求。独立的Grok网站和应用程序周二仍在批准图像编辑请求。

对于置评请求，马斯克的xAI公司一直以自动回复"传统媒体谎言"作答。X此前表示将采取行动删除非法内容，包括儿童性虐待材料，永久暂停用户账户，"并在必要时与当地政府和执法部门合作"。马斯克警告称，"任何使用Grok制作非法内容的人将承受与上传非法内容相同的后果。"

全球监管压力持续升级

在加州启动调查之前，Grok已在全球多个司法管辖区面临监管行动。英国媒体监管机构Ofcom周一启动调查，审查Grok是否违反了保护人们免受非法内容侵害的义务。印度尼西亚上周六暂时封锁了对Grok的访问，马来西亚政府周二表示将对X和xAI采取法律行动。

欧盟最高技术事务官员警告X必须解决该问题，并援引《数字服务法》称"如果不这样做，我们将毫不犹豫地全面使用DSA保护欧盟公民"。法国巴黎检察官办公室表示正在扩大对X的调查范围，将性明确深度伪造内容纳入其中。

据央视新闻报道，马斯克本周三回应称，并不知道关于Grok存在生成“未成年人裸露图像”的情况，强调Grok的程序设定为拒绝非法请求且必须遵守各国法律。目前，多国政府及妇女、儿童权益组织已呼吁苹果、谷歌将该应用从应用商店下架。