360儿童手表出现贬损中国人的回答,周鸿祎致歉称旧版程序抓取网络内容
面向儿童的设备输出带明显冒犯性的价值判断,使家长突然意识到“儿童AI回答从哪里来、谁负责审核”并没有随智能硬件普及同步解决。
· 公共安全、AI
事情从哪里开始
有家长发布视频,展示360儿童手表在回答有关“中国人是否最聪明”等问题时,出现贬损性内容。
发生了什么
8月22日,360创始人周鸿祎公开致歉并解释,涉事为较早版本的问答程序,并非当前大模型能力,部分内容来自公开网络抓取。公司称已删除问题内容并升级产品。
后来怎样
事件引发对儿童智能硬件知识来源、内容审核、第三方服务接入和历史数据治理的讨论。
它留下了什么问题
儿童设备如果通过搜索抓取或第三方内容直接生成答案,制造商应承担多高程度的内容审查与可追溯责任?