多款儿童智能手表被曝出现“毒答案”,家长担忧联网搜索和第三方内容绕过未成年人保护
儿童手表被家长当作安全设备,却能在联网问答中返回暴力、色情或错误历史信息,使“儿童设备到底由谁审核内容”成为比单纯产品故障更强的育儿与技术焦虑。
· 生育、公共安全、教育、AI
事情从哪里开始
儿童智能手表从定位、通话设备逐步扩展到搜索、问答、应用下载等功能,内容来源也从厂商内置知识库扩大到网络搜索和第三方应用。
发生了什么
9月初,多家媒体集中报道部分儿童手表问答出现不适宜或明显错误内容。360方面承认旧款产品的网络搜索机制可能抓取到有害网页内容并进行整改;小天才方面则称部分问题来自第三方应用并下架相关应用。网上流传的个别极端回答截图,其设备真伪和完整上下文并非都能确认。
后来怎样
事件推动厂商加强内容过滤、儿童模式和第三方应用审核。需要注意,公开问题并不都来自大语言模型,有些属于传统网页搜索或第三方内容,因此不能笼统归因于“AI失控”。
它留下了什么问题
当儿童智能设备具备开放式搜索和问答能力后,厂商是否应承担比普通搜索引擎更高的内容安全义务,并持续审核第三方应用和动态网页内容?