据中央网信办10日通报,2025年6月,网络谣言主要聚焦社会热点、灾情事故、伪科普等领域,造谣者通过移花接木、AI生成、伪科学包装等手段虚构或夸大事实,扰乱正常社会秩序。
通报特别提到了灾情事故类谣言中,AI制假信息所产生的破坏力。6月,全国多地进入汛期,持续强降雨天气导致内涝、洪水等自然灾害频发,有网民借机散布不实信息,如编造“湖南永州蓝山县特大暴雨致汽车被冲走”“福建南平建瓯房道镇路面严重积水”“乌鲁木齐南山板房沟突发山洪”等虚假视频图文。这类谣言不仅加剧社会恐慌情绪,还可能干扰正常防灾救灾秩序,可谓贻害无穷。
AI生成广泛存在于信息传播、内容创作等多个领域,在给工作生活带来便利、丰富创作手段、拓展阅读空间的同时,也给信息传播造成了很大的困扰。伪造名人演讲的深度合成视频、以假乱真的“伪科普”文章,还有各种事发现场的照片视频,AI制假信息凭借其高仿真度,正在消解公众的信息甄别能力。
可以说,信息的真假问题已经成为信息传播最大的阻碍之一、互联网的一颗毒瘤,不治理将侵蚀网络社会的信任基础。无论是从哪方面看,都要求我们必须对AI内容进行严格区分,让AI合成内容回归它本来的面目。
显然,“肉眼凡胎”已经无法胜任如此艰巨的工作,需要升级管理办法。目前比较常用的防治办法是进行标识。既然是合成的,就该公之于众,晒于阳光之下。事实上,AI制假信息之所以能兴风作浪,很大程度上就是因为它伪装得好,别人看不穿看不透,在真假难辨间钻空子。标识清楚了,这个空间自然也就消失了。
相关法律法规正在完善。2023年1月10日起施行的《互联网信息服务深度合成管理规定》对哪些内容需要标记进行了明确的规定。而今年制定的《人工智能生成合成内容标识办法》再进一步,对如何标识作出了详细的规定。这项规定将从今年的9月1日起施行。届时,两部法律法规将与其它相关法律法规一起形成“组合拳”,有效堵住治理漏洞,对乱象进行源头治理。
平台应该督促、约束作者严格执行相关规定,要建立起一套标识上可溯源、技术上可反制、法律责任界定上清晰明确的监管机制,让平台算法的抓取和推荐成为网络空间善治的模范,而不是谣言传播的帮凶。AI模型公司也该积极参与治理,作为内容生成的“源头”,模型公司有必要在技术层面嵌入不可篡改的标识模块。
历史经验表明,每次技术革命都伴随着治理模式的迭代。从印刷品时代的知识产权保护,到互联网时代的网络空间治理,人类始终在寻找创新与秩序的平衡点。互联网社会的基础是诚信,只有守住真实的底线,互联网才能在技术创新中保持旺盛的生命力。
(作者:高路,来源:潮新闻)
热门评论 我要评论 微信扫码
移动端评论
暂无评论