后来

“西安爆炸”“运钞车枪战”等多起耸动消息被查为AI编造,AI造谣焦虑升温

低门槛生成式AI让伪新闻可以批量生产并快速逼真化,公众开始面临“看到视频和图片也不能信”的新型信息安全焦虑。

· 平台、公共安全、AI

事情从哪里开始

生成式AI文生图、文生视频工具在2024年快速普及,自媒体通过AI批量生产内容的成本显著下降。

发生了什么

12月《中国经济周刊》梳理监管部门查处案例称,“西安发生大爆炸”“运钞车遭武装抢劫枪战”“比亚迪要收购蔚来”等耸动消息均系借助AI工具编造,制造者主要以获取流量为目的。

后来怎样

讨论从传统“谣言识别”进一步转向AI生成内容标识、平台审核责任和普通用户如何判断逼真影像真伪。

它留下了什么问题

当普通用户已经无法仅凭肉眼判断一张图或一段视频是否真实时,真实性验证成本应主要由用户承担,还是应由生成平台、发布平台和传播账号共同承担?