Facebook 将开放其用于打击在平台上创建假帐户的工具。该公司表示,此工具具备一种新的 AI 方法,称为“深层实体分类”(DEC),这种方法被证明特别有效。
DEC 是一种机器学习模型,其在检测可疑帐户活动的同时,还评估了所有相关活动,包括可疑帐户与之交互的帐户和页面的行为。 Facebook 称,该工具已将垃圾邮件和欺诈帐户的估计数量减少了 27%。
截至目前,DEC 已经帮助 Facebook 阻止了诈骗和其他恶意行为者去年创建或试图创建的超过 65 亿个虚假帐户。这些帐户中的绝大多数实际上是在帐户创建过程中被识别的,而有些成功创建的账户,甚至在被用户举报之前就被 Facebook 的自动化系统察觉了。
尽管已经有如此庞大数量的账户被阻止,Facebook 仍估计,目前平台上的所有 28.9 亿月活用户中,约有 5% 是属于他们认为违反其服务条款的虚假帐户。
此外,Facebook 还在利用 AI 识别表情包图片中的不当内容。