后来

快手直播遭黑灰产攻击,大量直播间突然出现色情和暴力内容

大量普通用户在同一晚直接看到平台审核‘失守’,部分直播间观看人数上万,造成惊讶、恐慌和对平台安全机制的质疑。事件不只是企业网络攻击新闻,更是一场用户可感知的内容安全事故。

· 平台、公共安全、企业

事情从哪里开始

短视频直播平台依赖机器审核与人工审核结合的机制实时过滤违法违规内容。

发生了什么

12月22日22时左右,大量网友反映快手多个直播间同时出现色情、低俗及部分暴力血腥内容。快手随后称直播功能遭黑灰产网络攻击,启动应急处置并短暂影响直播入口。

后来怎样

快手12月23日公告称直播功能逐步恢复,其他服务未受影响,已报警并向有关部门报告。北京海淀警方也表示接到多名群众报案。

它留下了什么问题

当内容平台遭遇自动化、规模化攻击时,平台应如何设计能够快速降级和隔离的审核系统,而不是让违规内容先暴露给用户?