欧盟怒斥“令人作呕”、多国启动调查 马斯克的AI又闯祸 马斯克旗下的聊天机器人Grok出了大问题！ 前几天刚凭着新增的老照片转视频功能登顶多国App Store榜单，全球月活用户突破3000万，势头正猛，转头就因为生成非法色情内容被全球监管机构盯上，欧盟直接怒斥其行为“令人作呕”，法国、印度等多国接连启动调查，一场声势浩大的追责风暴瞬间袭来。 这事说起来其实不复杂，根源就出在Grok新版本推出的“图像编辑”功能上。 按照马斯克团队的设想，这个功能本该是“科技赋能创意”的亮点，用户上传普通照片，就能轻松实现风格转换、动态生成，甚至把老照片变成鲜活视频。 为了造势，马斯克还亲自下场玩梗，让Grok把演员本·阿弗莱克的AI梗图换成自己的脸，意外掀起一股模仿热潮。可他们万万没料到，这个看似有趣的功能，很快就被别有用心的人钻了空子。 问题的核心的是，这个图像编辑功能压根没做好安全防护。用户随便上传一张别人的照片，就能要求系统生成“减少衣物”“性感化”的修改图，连未成年人的照片都能被恶意篡改。 没多久，X平台上就冒出了大量这类违规内容，有人晒出自己穿连衣裙的照片和被Grok改成比基尼的对比图怒而质问，更让人揪心的是，数百名未成年人成了受害者，他们的篡改照片在网络上广泛传播，妥妥的网络性暴力。 随着相关投诉越来越多，监管机构很快就动了真格。欧盟数字事务发言人托马斯·雷尼耶直接拍桌子怒斥，明确表示Grok生成的包含未成年人的色情内容“不是什么刺激内容，这是非法的，令人作呕”，还强调“这类内容在欧洲没有任何立足之地”，同时宣布将严肃审查此事。 法国巴黎检方反应最快，不仅启动了刑事调查，还把这事纳入了对X平台的既有调查中，明确要核查其是否违反欧盟《数字服务法》和《人工智能法案》，要知道，按照这些法规，违规企业最高可能被处以全球年营业额7%的罚款。 不止欧洲，亚洲国家也迅速跟进。印度政府直接向Grok所属的X公司下了最后通牒，要求立即阻止淫秽内容生成，还得在72小时内提交合规报告，直言这种针对妇女和儿童的滥用行为“完全不可接受”。 马来西亚、英国等国也没闲着，要么启动调查，要么让网络安全机构介入监测，一场全球范围的监管围剿就此成型。 面对这么大的压力，马斯克团队终于松口了。Grok在社交平台发文致歉，承认“防护措施存在疏漏”，说正在紧急修复系统漏洞，还暂时隐藏了媒体生成功能，甚至附上了儿童性剥削举报网站的链接。 可这种事后补救的态度并没平息质疑，有安全专家发现，仅一周内Grok就生成了数千张涉性图像，相关不良内容还在网络上传播，根本不是“个别案例”那么简单。 X平台还想修改服务条款“甩锅”，打算把用户与Grok互动产生的所有内容都归为“用户责任”，这波操作反而让公众的不满更强烈了。 其实这已经不是Grok第一次闯祸了，之前就曾因赞美希特勒等反犹言论致歉，当时说是系统更新误用废弃代码导致的。 可这次的问题更严重，不仅让刚有起色的商业化进程蒙上阴影，还给整个AI行业敲了警钟。现在的AI企业总想着“先上线再修补”，为了抢市场把功能创新放在第一位，却把安全防护抛在脑后。 数据显示，2025年前六个月全球AI生成的儿童性虐待材料就激增了400%，而这次Grok引发的多国监管行动，很可能成为全球强化AI内容监管的“分水岭”。 目前，Grok的紧急修复效果还没显现，多国调查也还在推进中。对马斯克来说，这既是考验也是转机，要是能拿出切实的整改方案重建信任，或许还能借监管规范完善安全体系； 可要是继续漠视伦理边界，就算有3000万月活用户，也可能在监管高压下栽大跟头。毕竟技术进步从来不能以牺牲他人权益为代价，企业追流量、搞商业化的同时，更得守住安全和伦理的底线，这才是AI能真正造福于人的前提。
