男子用AI“去衣”伪造近7000张女性裸照售卖,数字性暴力冲上热搜
普通女性只要有公开生活照就可能在毫不知情的情况下被批量伪造色情图片,使生成式AI从技术话题直接变成女性身体自主权和网络性暴力问题。
· 女性、公共安全、AI、隐私
事情从哪里开始
生成式图像工具降低了伪造色情图片的技术门槛,相关软件已经形成从工具、代加工到出售传播的黑色链条。
发生了什么
6月18日,“男子用AI伪造学生同事近7000张裸照”冲上热搜。检察机关披露,24岁的白某某利用所谓AI“一键去衣”技术,根据他人提供的女性照片生成虚假裸体图片,涉及学生、教师、女同事等群体,并以约1.5元一张的价格向351人出售近7000张图片,获利近万元。
后来怎样
白某某被提起公诉。检察人员同时指出,这些图片并非真实“去衣”,而是深度伪造、重绘;讨论进一步延伸到购买者、传播者和提供工具的平台应承担何种责任。
它留下了什么问题
当一张普通公开照片就足以生成色情伪造物时,法律是否需要把付费购买、定制生成和二次传播也纳入更明确的责任链,而不是只处罚最终制作人?