这两天
视频大模型Seedance2.0
在国内外社交平台上
掀起一阵刷屏式传播
各种脑洞大开的画面刷屏
引发热议与思考
有网友第一时间就提出
乱套了，真假难辨
对于部分不添加AI标识
误导公众的视频
官方已经出手！
多人因滥用AI被处理
据网信中国消息，近期，部分网络账号发布AI生成合成信息时，不添加AI标识，存在利用虚假不实内容欺骗误导公众的问题，破坏网络生态，造成恶劣影响。网信部门督促网站平台深入排查整治，依法依约处置账号13421个，清理违法违规信息54.3万余条。现将部分典型案例通报如下：
一、微博账号“澄馫”、快手账号“玲子爱狗狗”、哔哩哔哩账号“空空说电影”等，发布狗在高铁站救下婴儿、狗拆炸弹救人、鳄鱼伤人等视频时，未添加AI生成标识，借虚构感人故事、猎奇事件恶意博取流量。相关账号已被依法依约处置。
二、微信账号“浮萍9419”、微博账号“乘风已归来”、快手账号“东东情感”等，以AI换脸、声音克隆等方式，假冒运动员、演员、主持人、企业家等公众人物，发布不实言论，借此吸粉引流，或未经授权，售卖AI生成的公众人物“送祝福”“拜年”等视频，从中不当牟利。相关账号已被依法依约处置。
三、抖音账号“巷子里的鱼”“禾粟”、快手账号“朵姐正能量”“小猪猪”等，发布AI生成的虚假火灾现场图片、视频，恶意编造、炒作火灾事故，混淆视听，扰乱公共秩序。相关账号已被依法依约处置。
四、哔哩哔哩账号“真难我知道”、抖音账号“小奥特曼大智慧”、百度账号“清崽影视”等，借AI魔改未成年人喜爱的动画角色，制作刀切小马宝莉头部、奥特曼怀孕等视频，传播低俗惊悚、血腥暴力内容，宣扬不良价值观，侵扰未成年人身心健康。相关账号已被依法依约处置。
五、小红书账号“浪淘达人”“南坤的店”等，发布“豆包图片去水印神器”等内容，分享去除AI标识教程、软件，淘宝、闲鱼、拼多多店铺“浙江智意AI”“鼎建祥旗舰店”等，售卖去AI标识教程、软件及服务。相关账号已被依法依约处置，违规商品已下架。
下一步，网信部门将对无AI标识的虚假不实信息保持高压严管态势，发现即处置，严厉打击违规行为。同时，也呼吁广大网络内容创作者按照相关规定主动添加AI标识，避免误导公众，共同营造风清气正的网络环境。
上海：多部门联合开展
“整治AI涉企虚假不实信息”专项行动
为切实维护企业网络合法权益
严打AI涉企谣言
上海市委网信办
会同市公安局网安总队
近日集中开展
“整治AI涉企虚假不实信息”
专项行动
本次专项行动重点聚焦利用AI技术生成传播涉企虚假不实信息，误导公众认知、影响企业形象声誉、抹黑攻击竞争对手等问题，由上海市委网信办、市公安局网安总队联合推进，将加强典型案例打击处置，斩断利用AI技术不当牟利的利益链条，力争达到“标本兼治、打防结合、净化生态”的整治效果。
为建立健全长效机制，上海市委网信办将持续督促属地AI应用程序和传播平台切实履行主体责任，完善技术识别和人工复核机制，畅通用户投诉举报渠道，对利用AI生成“同质化”不实信息、违规“养号”等行为强化审核处置；对AI批量制作、低质搬运、无来源虚构等“数字泔水”垃圾内容探索有效治理措施。
上海市委网信办相关负责人表示，AI技术在赋能经济社会发展的同时，也面临技术滥用、虚假信息传播加剧等问题。当前，整治AI涉企谣言问题对营造公平有序的营商环境具有重要意义。市委网信办将会同相关部门对专项整治期间屡教不改、顶风违规、情节严重的网站平台和账号，依法依规从严查处，切实规范涉企网络信息传播秩序。
在这里提醒大家
在网络上发布AI相关内容时
一定要做好标注
切不可误导公众认知
来源|新闻坊综合网信中国、网信上海、此前报道
西楼
就是标明ai生成，也有人认为是真的，或者他就故意的只相信他想相信的，哈哈。所以最好是杜绝ai生成文章和视频。
简宝贝
支持各地政府严惩舆论乱象，想用舆论搞乱国家的不怀好意份子，不制止更嚣张。没有国家的安全，就没有小家的安全。
杨士奇
以前说有图有真相，现在是有图也无真相！政府必须做出妥善管理，在此之前应禁用，至少在公众场合禁用！
运动元素(免费招
软件、律师、会计师、项目经理和营销人员等从事电脑办公的专业人士，其"大多数任务"将在未来12至18个月内被AI完全自动化。AI导致的失业已初现端倪。根据职业介绍公司Challenger的报告，今年1月有7624个工作岗位因AI被裁，占当月裁员总数的7%；2025年全年，AI导致的裁员公告达54836人。自2023年开始追踪以来，79449个计划裁员岗位归咎于AI。
十九之夏。
ai本来是好的，但是让坏人犯罪分子利用了，就成了它们害人的好帮手，必须严惩了，就像碰瓷一样，要真正的严惩。[祈祷][哭哭]
lemon_bee 回复 02-18 20:22
AI让行骗成本更低，让甄别成本更高[笑着哭][笑着哭]
平凡人
“发布AI生成合成信息时，不添加AI标识，存在利用虚假不实内容欺骗误导公众的问题” —— 该现象非常严重，必须大力整治！[滑稽笑]
Timeless
有些ai视频即便标注上了ai，也应该禁止，比如“一家人在院子吃饭，突然院墙上蹦出了老虎或野猪”的视频。
PKTAR
支持整理这种虚假视频
?皇妹?
真的该整治了！如果不管制，网络空间会乱成这样，想看个新闻、查条信息、找点娱乐的，都难分真假了啊。
马踏飞燕
有的视频已经傻傻分不清楚了[捂脸哭]
花花
国人的版权意识太差了，其实超市放恭喜发财也是侵权的，人家不追究，不代表你有理
不能赚钱了
头条上各种未经标识为ai的假新闻社会热点段子等图片视频泛滥，啥时候开始处置？
用户61xxx13
低级都不会低级
桦桦
这个白龙马超纲了
幅员 回复 02-18 20:15
你太优秀了
飞翔的大居居1
A1，视频太夸张，不意传播！
Mr.Z
适合头条标准的是最好的。
幅员
好希望没有这个什么AI啊！
喵呜喵呜的栗子
只描准日常虚假不够，要真对电商平台的虚假，而且太多太多！误导消费者，必须严打
漫基
政府应该立法赶紧跟上，不然要乱套了
Rosemary钟雯
这时候，华为手机的视频电话中检测是否为AI人脸的功能，就非常给力了
路在何方
有多视频都是ai生成的，一般人很难鉴别，尤其是知识类视频。
最佳损友
ai把抄袭、盗图、侵权都做了，平台却没任何处理
极米
遇到AI生成的所谓“作品”，总是果断拉黑，太讨厌了。
坚守底线
把发布类似视频的人找到然后当场枪毙，通报全网保证没有人再敢发布这种视频。
用户17xxx44
还有宣传电动四轮车和燃油车的呢？也应该好好管制一下吧
庸俗?
AI视频真假难辨，平台应该大力整治！！！！！！！
sooner or later
用AI生成的真伪难以辨别，即使有标识，也容易误导公众。
毛绒绒的小狐狸
该整治了！一些人弄些Al视频忽悠人！