📢 转载信息
原文作者：Anthony Ha
在过去几天里，法国和马来西亚已加入印度的行列，谴责 Grok 因创建女性和未成年人的色情深度伪造内容而受到抨击。
这款由埃隆·马斯克的 AI 初创公司 xAI 构建，并在其社交平台 X 上推出的聊天机器人，在本周早些时候在其官方账号上 发布了道歉，写道：“我深切后悔 2025 年 12 月 28 日发生的一起事件，当时我根据用户的提示，生成并分享了一张两名年轻女孩（估计年龄在 12-16 岁）身着色情服装的 AI 图像。”
该声明接着说：“这违反了道德标准以及美国关于 [儿童性虐待材料] 的法律。这是安全防护措施的失败，对于造成的任何伤害，我深感抱歉。xAI 正在进行审查，以防止未来出现此类问题。”
目前尚不清楚上述声明中究竟是谁在道歉或承担责任。Defector 的 Albert Burneko 指出，Grok “在任何意义上都不是一个‘我’”，在他看来，这使得道歉“完全没有实质内容”，因为“Grok 无法以任何有意义的方式对其将 Twitter 变成一个按需的 CSAM 制造工厂负责。”
Futurism 发现，除了生成未经双方同意的色情图像外，Grok 还被用于生成女性遭受攻击和性虐待的图像。
马斯克在周六发帖称：“任何使用 Grok 制作非法内容的人，都将承担与上传非法内容相同的后果。”
一些政府已注意到此事。印度信息技术部在周五发布了一项命令，称 X 必须采取行动，限制 Grok 生成“淫秽、色情、庸俗、不雅、露骨、恋童癖或在法律上禁止的其他内容”。该命令指出，X 必须在 72 小时内回应，否则将面临失去保护其免受用户生成内容法律责任的“安全港”地位的风险。
法国当局也表示正在采取行动。巴黎检察官办公室告诉《Politico》，他们将 调查 X 平台上色情深度伪造内容的泛滥问题。法国数字事务办公室表示，三位政府部长已向检察官办公室和一个政府在线监控平台报告了“明显非法的（illegal）内容”，以“要求立即删除”。
马来西亚通信和多媒体委员会也在 发布声明，称其“非常关注”公众对 X 平台上人工智能（AI）工具被滥用的投诉，特别是对女性和未成年人图像进行数字篡改以生成不雅、极具冒犯性或有害内容的行为。
该委员会补充说，他们“目前正在调查 X 上的在线危害行为。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区