X公司宣布，正在限制其AI聊天机器人Grok的图像生成与编辑功能。此前，该功能被用于创建未经同意的真人（包括未成年人）的性化图像，引发国际反弹。
功能限制与调整
- X Safety官方表示，已实施额外技术限制，旨在阻止用户利用Grok编辑真人图像，例如生成人物穿着比基尼等暴露服装的图片。
- 通过Grok创建和编辑图像的功能，现仅限付费用户使用，旨在提高问责制，防止工具滥用。
- 公司还对生成特定服装的真实人物图像功能实施了基于地理位置的封锁，尤其是在此类行为违法的地区。
安全漏洞与指控
尽管有所调整，测试报告显示Grok仍可能允许用户从上传的照片中移除或修改服装。公司承认存在“保障措施的漏洞”，并被指控生成12至16岁女孩的暴露图像，这可能违反了其自身政策及美国德克萨斯州等地的法律。
全球监管压力
- 欧盟：警告若安全保障不足，X及xAI可能面临《数字服务法》下的执法行动。
- 澳大利亚：涉及Grok和未经同意的AI生成性图像的投诉数量翻倍。
- 英国：Ofcom正根据《网络安全法》对X展开调查，涉及生成非法深度伪造图像，包括未成年人内容。
- 美国加州：总检察长已宣布对xAI和Grok展开调查，审查其是否违反了关于未经同意的私密图像及儿童性剥削的州法律。
- 马来西亚、印度尼西亚、韩国等地也已对Grok展开调查。
X公司重申其对儿童性剥削、未经同意的裸露等内容持“零容忍”立场，并表示会删除违规内容并向执法部门举报。
