预防网暴,抖音国内首家上线评论发文警示等功能
IT之家2月26日消息,抖音官方本周发布公告宣布多举措预防网暴,首家上线评论发文警示等功能。
公告显示,抖音全面升级平台预防网暴能力,为用户提供了8项功能,全方位管理评论和私信。其中,针对不当私信,新上线风险提醒和负向内容过滤等功能;针对已发送的不当评论,即将上线国内首个发文警示功能,进行拦截。
数据显示,抖音每天产生8亿条评论,其中,被投诉、举报并最终处理的不当评论中,谩骂,人身攻击占比32。79。
IT之家了解到,针对评论,抖音即将上线国内首个发文警示功能。该功能下,若系统模型判定已经发送的评论存在问题,则会推送弹窗提醒,建议发送者重新编辑,去除不当言论。如果发送者坚持发送,则该条评论不会在评论区出现。近期,该功能已开启小范围测试。
此前,抖音已上线评论权限分层管理关键词屏蔽评论精选三项功能。在评论权限分层管理下,用户可通过权限设置高级设置谁可以评论设置评论权限,根据自身需求从所有人仅粉丝仅互关朋友仅自己四个选项中,自主选取谁可以对自己发布的内容进行评论。
私信方面,抖音新增用户风险提醒和负向内容过滤两大功能。在用户风险提醒功能下,当系统模型识别发现,用户刚接收的陌生人私信存在风险时,会对用户推送弹窗,提示其是否认识该用户。如果用户选择不认识,系统会再次弹窗,提示用户可进行拉黑、举报、移除粉丝等操作。目前,该功能日均会对25万次会话发出风险提示。
在负向内容过滤功能下,当模型判定用户收到的私信消息为谩骂或骚扰,该消息会被直接放入陌生人盒子垃圾信息中。此外,抖音还推出了心情暖宝宝助手,可以根据用户内容情绪倾向,通过消息对话的交互方式,缓解用户负向情绪。