把住AI生成的标识关，守住真实的底线

据中央网信办10日通报，2025年6月，网络谣言主要聚焦社会热点、灾情事故、伪科普等领域，造谣者通过移花接木、AI生成、伪科学包装等手段虚构或夸大事实，扰乱正常社会秩序。

通报特别提到了灾情事故类谣言中，AI制假信息所产生的破坏力。6月，全国多地进入汛期，持续强降雨天气导致内涝、洪水等自然灾害频发，有网民借机散布不实信息，如编造“湖南永州蓝山县特大暴雨致汽车被冲走”“福建南平建瓯房道镇路面严重积水”“乌鲁木齐南山板房沟突发山洪”等虚假视频图文。这类谣言不仅加剧社会恐慌情绪，还可能干扰正常防灾救灾秩序，可谓贻害无穷。

AI生成广泛存在于信息传播、内容创作等多个领域，在给工作生活带来便利、丰富创作手段、拓展阅读空间的同时，也给信息传播造成了很大的困扰。伪造名人演讲的深度合成视频、以假乱真的“伪科普”文章，还有各种事发现场的照片视频，AI制假信息凭借其高仿真度，正在消解公众的信息甄别能力。

可以说，信息的真假问题已经成为信息传播最大的阻碍之一、互联网的一颗毒瘤，不治理将侵蚀网络社会的信任基础。无论是从哪方面看，都要求我们必须对AI内容进行严格区分，让AI合成内容回归它本来的面目。

显然，“肉眼凡胎”已经无法胜任如此艰巨的工作，需要升级管理办法。目前比较常用的防治办法是进行标识。既然是合成的，就该公之于众，晒于阳光之下。事实上，AI制假信息之所以能兴风作浪，很大程度上就是因为它伪装得好，别人看不穿看不透，在真假难辨间钻空子。标识清楚了，这个空间自然也就消失了。

相关法律法规正在完善。2023年1月10日起施行的《互联网信息服务深度合成管理规定》对哪些内容需要标记进行了明确的规定。而今年制定的《人工智能生成合成内容标识办法》再进一步，对如何标识作出了详细的规定。这项规定将从今年的9月1日起施行。届时，两部法律法规将与其它相关法律法规一起形成“组合拳”，有效堵住治理漏洞，对乱象进行源头治理。

平台应该督促、约束作者严格执行相关规定，要建立起一套标识上可溯源、技术上可反制、法律责任界定上清晰明确的监管机制，让平台算法的抓取和推荐成为网络空间善治的模范，而不是谣言传播的帮凶。AI模型公司也该积极参与治理，作为内容生成的“源头”，模型公司有必要在技术层面嵌入不可篡改的标识模块。

历史经验表明，每次技术革命都伴随着治理模式的迭代。从印刷品时代的知识产权保护，到互联网时代的网络空间治理，人类始终在寻找创新与秩序的平衡点。互联网社会的基础是诚信，只有守住真实的底线，互联网才能在技术创新中保持旺盛的生命力。

（作者：高路，来源：潮新闻）