X平台战争期间严管AI视频随着AI技术飞速发展,AI视频已逼真到难以分辨。X产品负责人尼基塔比宣布,从今天起,将在战争等全球冲突期间加强对AI生成视频的管理,对违规发布者将进行处罚。
有人提议,X平台需要一些工具来可靠地检测人工智能内容,战争视频通常来自一线消息源,即使投入了最多的时间和精力,也无法100%验证其真实性。
理想情况下,当你在X上传视频时,它会显示“警告:此视频可能由人工智能生成,是否要添加标签?增加一个功能请求,这将使检测万无一失。
可行性:可采用机器学习模型分析画面伪影、物理异常、光影/音频不一致性,并结合生成工具(如Grok)嵌入的元数据/水印。当前准确率约为80%–95%,且仍在快速提升。
优点:赋予用户自我标注的权力,减少战争中的虚假信息,避免违规,建立信任。
缺点:真实的抖动视频可能被误判,每次上传都会产生高昂的服务器成本,发布者可以通过修改视频来规避检测。
实施方式:上传时启动服务器端扫描(先运行轻量级模型),若系统判定“视频90%可能为AI生成”,则弹窗提示:“该内容疑似AI生成——是否添加‘由AI制作’标签?”建议分阶段推进,优先用于战争期间。