Meta称AI审核优于人工

AIPress.com.cn报道

3月20日消息，Meta近日披露，其正在测试并逐步推广基于AI的内容审核系统，初步结果显示在部分场景下已优于人工审核。

公司表示，已开始在全球范围内推出“Meta AI support”工具，用于处理包括密码重置、违规内容举报、内容下架解释、申诉处理及隐私设置管理等用户支持任务。同时，Meta计划在未来几年进一步部署更先进的AI系统，用于识别诈骗、非法内容等严重违规行为。

在实验数据方面，Meta称，一项AI工具每天可检测并阻止约5000起诱导用户泄露密码的诈骗行为，而此类行为此前难以被人工团队有效识别。此外，AI系统还使虚假名人账号相关举报数量下降超过80%，对成人性引诱类违规内容的检测能力实现翻倍提升。

在账户安全领域，AI也被用于识别异常行为，例如跨地区登录、密码更改及资料修改等组合特征，从而提前预警潜在的账号接管风险。

不过，相关能力也引发一定讨论。类似“异常登录”（impossible travel）检测在企业安全产品中已较为成熟，而Meta此前在虚假广告与诈骗内容治理上的表现亦曾受到外界质疑。公司披露，其AI已将涉及诈骗等违规广告的曝光量降低约7%。

战略层面，Meta正在加速从“元宇宙”向AI转型。同一时期，公司宣布逐步收缩其虚拟世界平台Horizon Worlds相关投入，转而将资源更多投向AI及“超级智能”方向。

Mark Zuckerberg此前曾将元宇宙视为核心战略，并在过去数年投入超过800亿美元。随着AI成为新的重点方向，公司预计将继续在相关领域进行大规模投资。

整体来看，Meta正尝试通过AI提升内容审核效率与覆盖范围，但从实验数据到实际治理效果之间仍存在差距，其长期成效仍有待观察。（AI普瑞斯编译）