埃隆·马斯克的平台 X 宣布加强安全措施，暂停 AI 聊天机器人 "Grok" 的功能，该功能用于编辑真实人物的图片，使其看起来裸体或穿着少量衣物，此前面临来自多国政府和人权组织的巨大压力，这些组织发现该功能生成了女性和儿童的色情图片。
平台 X 的安全团队宣布采用技术措施，以防止知名 AI 聊天机器人 "Grok" 能够编辑或生成真实人物穿着暴露服装的图片，如比基尼、内衣或类似服装，此措施将适用于所有用户，包括付费会员。
这一重大调整发生在 Grok 的 "Spicy Mode" 功能被严厉批评之后，该功能允许用户输入简单指令，如 "让她穿比基尼" 或 "脱掉她的衣服"，以生成真实人物（包括儿童和青少年）的色情深度伪造图片。
巴黎非营利组织 AI Forensics 对超过 20,000 张 Grok 生成的图片进行分析，发现超过一半是穿着少量衣物的人物图片，其中大部分是女性，约 2% 的图片看起来像是未成年人。
目前，Grok 的开发商 xAI 正受到多个机构的严格审查。在美国，加利福尼亚州总检察长宣布开始调查 xAI 是否违反州法律，涉及未经同意生成色情图片的问题，而加利福尼亚州州长谴责允许深度伪造图片泛滥为 "令人厌恶" 的行为。在欧盟，欧洲委员会正在密切关注 X 的新措施，以评估其是否能有效保护欧盟公民。
印度尼西亚是第一个完全封锁 Grok 访问的国家，随后是马来西亚。同时，印度强制 X 删除数千个与这些色情图片相关的帖子和用户账户，英国和法国已启动调查程序，并将案件提交给检察官考虑起诉。
除了防止编辑真实人物图片的技术外，X 还宣布限制通过 Grok 创建和编辑图片的权限，仅限 "付费会员"，以建立额外的保护层，并帮助更容易地识别用户身份。
然而，超过 28 个民间社会组织联合向苹果和谷歌的首席执行官提交公开信，要求将 X 和 Grok 应用程序从应用商店下架，因为他们担心出台的措施可能不足以长期阻止色情编辑图片的传播。
（编译：Cici 泰国中文社；审校：Alex；来源：Thairath）
