罗布乐思AI聊天审核效果不错 但人类审核仍更胜一筹

罗布乐思AI聊天审核效果不错 但人类审核仍更胜一筹

作者: 发表时间:2025-06-25 1:28:41
淮南市税收公开app 菏泽市热点专题app 阳江市农业补贴app 苏州市铁路管理app 运城市历史记录app 岳阳市残联app 亳州市旅游协会app 衡阳市审计公开app 汕尾市灾害救助app 宝鸡市税收公开app 雅安市土地局app 固原市社会求助app 永州市学校app 鄂州市政府信息公开指南app 广州市公益app 邵阳市建设局信息app 萍乡市振兴乡村app 无锡市论坛app 沈阳市第六中学app 大庆市未成年保护协会app 江门市台风监控中心app 郴州市公共文化服务app 眉山市第一高中app 忻州市政务服务app 朔州市城乡建设app 台江县电台广播中心app 宝丰县公共文化服务app 靖安县森林消防app 上蔡县第六中学app 深泽县第二高中app 巩留县城乡建设app 五原县住房保障app 桦川县土木工程app 如东县税收公开app 东光县旅游协会app 全南县桥梁管理app 夏河县应急管理app 蠡县第三高中app 甘谷县信息公开app 隰县助农app 柳河县工商局app 台江县学校简介app 长阳土家族自治县第二高中app 玛沁县公开信息app

大型游戏创作平台《罗布乐思》已运用机器学习AI技术开展语音聊天审核工作长达一年之久。鉴于该平台拥有庞大的儿童用户群体,公司始终将审核工作视为重中之重。在近日举行的GDC 2024游戏开发者大会上,《罗布乐思》公司高级技术总监Kiran Bhat和语音安全负责人Hannes Heikinheimo透露,尽管AI审核成效显著,但在某些情况下,人工审核仍具有不可替代的优势。

罗布乐思AI聊天审核效果不错 但人类审核仍更胜一筹

Bhat在演讲中指出:;实时监控语音并非易事,因为这不仅需要识别语音内容,还需捕捉说话者的语气和强度,从而准确判断某段话是否带有恶意。”他进一步解释道,;上下文信息同样是判断话语是否冒犯的关键因素,这使得问题变得更为复杂。”

为应对这些挑战,公司采用了将违规内容划分为4个主要类别的策略,并发现85%的违规内容均属于这些类别,且;绝大多数”可通过50个关键词进行捕捉。Bhat表示:;若能涵盖这些类别的前50个关键词,审核工作便已相当到位。”

语音安全负责人Heikinheimo则强调了AI监管所取得的令人瞩目的成果:经过一年的运行,该系统已覆盖31个国家和地区,且每段;活跃聊天时间”的违规举报数量减少了一半。他提到,AI的一个显著优势在于其无情感且不会疲惫,因此在处理;非常明显的违规情况”时,机器比人类更为高效和稳定。然而,他也承认,在理解意图和进行判断方面,;人类仍强于机器”。

Heikinheimo解释道:;在处理那些可能接近判定边缘的情况,或在数据稀缺、机器学习系统难以充分训练的罕见情况下,人类审核员的表现仍更为出色。”

相关文章