警方破获利用AI换脸绕过人脸核验案,单张照片即可被加工成动态“真人”视频
人脸识别原本被当作高安全等级验证方式,但犯罪团伙已能用AI换脸把静态照片加工成可通过活体检测的动态画面,使普通人的照片本身变成账户安全风险。
· 消费、公共安全、AI
事情从哪里开始
银行、社交平台和互联网账户越来越多使用人脸识别和活体检测进行身份核验。
发生了什么
9月,央视等媒体披露湖北黄石警方侦破相关案件:犯罪团伙获取他人照片后,利用AI换脸等技术生成动态人脸素材,通过部分社交平台的人脸验证,帮助解封、登录涉诈账号并从中牟利。
后来怎样
警方对相关人员依法采取措施。事件说明并非所有人脸识别都能抵御深度合成攻击,也推动公众关注照片泄露、活体检测和多因素认证。
它留下了什么问题
当一张公开照片就可能被加工成“会眨眼、会转头”的数字替身时,平台继续把人脸作为高可信身份凭证是否足够安全,失败成本又应由谁承担?