乌克兰博主发现自己被AI克隆成“俄罗斯美女”带货,仿冒账号引发热议
真人的脸、身份和生活经历可以在本人不知情时被低成本复制成“外国网红”并商业变现,把抽象的深度伪造风险变成普通人可直观理解的肖像权、消费欺骗和平台治理问题。
· 消费、平台、AI、隐私
事情从哪里开始
生成式AI和深度合成工具降低了制作虚拟人物和仿真人视频的门槛,平台此前已开始要求AIGC内容标识并治理冒充真人账号。
发生了什么
3月2日,21世纪经济报道调查称,一名乌克兰视频博主Olga Loiek发现自己的面孔被用于多个中文社交平台账号,其中“娜塔莎进口食品”将AI生成的人设包装成定居中国的俄罗斯女性并用于内容发布和带货,账号一度拥有约20万粉丝。媒体能够确认仿冒账号和原博主投诉存在,但各账号背后的制作、运营主体及具体收益并未完全查清。
后来怎样
报道指出,抖音此前已发布针对利用AIGC仿冒真人的治理公告,小红书也清理过一批AI仿冒账号。讨论从单个博主遭“盗脸”延伸到消费者能否识别AI主播、被仿冒者如何跨平台维权。
它留下了什么问题
当AI能够把一个真实人的脸和身份包装成完全不同的人设并持续商业变现时,平台是否应承担主动识别和快速下架义务,而不是要求被侵权者逐个账号举证?