腾讯元宝AI生成图片时突然输出粗俗辱骂文字,公司致歉修复
AI助手从“工具出错”变成直接辱骂用户,极强的荒诞感让公众重新讨论生成式AI的不可控输出与平台责任。
· 平台、公共安全、AI、企业
事情从哪里开始
春节期间AI应用争夺用户,图片生成等功能使用量迅速提升。
发生了什么
有用户使用腾讯元宝生成图片时,模型在结果中出现明显粗俗、侮辱性文字,截图在网络传播。
后来怎样
腾讯方面承认异常、致歉并进行修复。该事件可确认是产品输出问题,但不能据此推断模型具有主观恶意或“产生人格”。
它留下了什么问题
生成式AI偶发输出侮辱、歧视或危险内容时,平台的责任应停留在修复和致歉,还是需要提供可审计的事故报告与用户申诉机制?