地震中小孩被埋的图片原是由AI生成，“顶流明星在澳门赌博输了10亿”是有人为了博取流量用AI生成的假消息，玻璃突然坠落导致行人从高空栈桥坠向深渊的视频由AI伪造……当AI发展如火如荼、赋能千行百业，成为我们工作与生活新“搭子”的时候，硬币的另一面，是技术被滥用带来的风险暗流。语音伪造、图像合成、对话捏造，AI造假愈演愈烈，频频误导认知，侵犯肖像权、隐私权，侵蚀社会信任的基石。
重症就要下猛药。中央网信办近日披露了整治AI技术滥用工作进展：第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。
为何有这么多问题产品和账号？一个基本背景是，AI大大降低了造假的门槛，即使是没有专业技术知识的普通用户，也能轻松利用这些工具伪造信息，成为一些人获取流量、价值变现的利器。
同时，AI技术升级换代较快，造假手段不断翻新，打击、识别技术也需要持续跟进，这是“道”与“魔”之间的较量。我们不能幻想着一劳永逸、速战速决，打击AI造假，是一场攻坚战、持久战。
遏制住AI造假势头，还网络清朗空间，需要我们用魔法打败魔法，以技术进步对抗技术滥用。这其中，平台的责任巨大，要当好“守门员”，而不是以“技术中立”为由，对违法违规信息睁一只眼闭一只眼，出了事就把锅远远甩出去。
监管也要拿出实招、硬招，对AI造假、传播谣言等加大打击力度，形成震慑力，切实破解违法成本低而维权成本高的老难题。还要加强制度建设，把握新态势、增强前瞻性，作出更多针对性的安排。譬如，《人工智能生成合成内容标识办法》自今年9月1日起施行，应及时跟踪实施效果，把制度的篱笆扎得更紧更牢。
未来已来，AI是我们抓住新一轮科技革命和产业变革历史机遇，进行弯道超车的一个重要切入点。我们既不能因噎废食阻碍技术创新，也不能放任自流让技术沦为违法犯罪的工具。唯有紧跟技术的步伐，调整好治理的步子，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，才能在享受AI红利的同时，守住社会信任与安全底线，让AI更好地造福人类。
（央视网）
热门评论 我要评论 微信扫码
移动端评论
暂无评论