微软收购基于人工智能的审核平台Two Hat

微软今天宣布以未公开的价格收购了基于人工智能的内容审核平台Two Hat。根据 Xbox 产品服务 CVP Dave McCarthy 的说法，此次收购将结合两家公司的技术、研究能力、团队和云基础设施，为 Two Hat 的现有客户和新客户以及“微软的多种产品和服务体验”提供服务。

“多年来与 Two Hat 多元化且经验丰富的团队合作，很明显我们完全符合创始人 Chris c 愿景所启发的核心价值观，为积极和繁荣的在线社区提供整体方法， ”麦卡锡在一篇博文中说。“在过去的几年里，微软和 Two Hat 一直在合作，在游戏和非游戏体验中实施主动审核技术，以在有害内容到达我们社区成员之前检测并删除它们。”

适度

根据皮尤研究中心的数据，十分之四的美国人亲身经历过某种形式的在线骚扰。此外，37% 的美国互联网用户表示，他们已经成为严重攻击的目标——包括性骚扰和跟踪——基于他们的性取向、宗教、种族、民族、性别认同或残疾。尤其是儿童是在线虐待的对象，一项调查发现，在大流行期间，社交媒体和游戏平台上的网络欺凌增加了 70%。

Priebe 于 2012 年创立了 Two Hat，当时他离开了迪士尼游戏开发部门迪士尼互动公司的高级应用安全专家职位。作为 Club Penguin 安全和安保团队的前首席开发人员，Priebe 渴望解决社交网络上的网络欺凌和骚扰问题。

如今，Two Hat 声称其内容审核平台——结合了人工智能、语言学和“行业领先的管理最佳实践”——每月对超过一万亿的人类互动进行分类、过滤和升级，包括消息、用户名、图像和视频。该公司还与加拿大执法部门合作，训练人工智能检测新的儿童剥削材料，例如可能是色情的内容。

“通过强调网络欺凌、虐待、仇恨言论、暴力威胁和儿童剥削等在线危害，我们使全球各种社交网络的客户能够为所有年龄段的客户营造安全健康的用户体验，”Two Hat 写道在其网站上。

微软合作伙伴

几年前，Two Hat 与微软的 Xbox 团队合作，将其审核技术应用于 Xbox、Minecraft 和 MSN 社区。Two Hat 的平台允许用户决定他们喜欢看的内容——以及他们不喜欢看的内容——Priebe 认为，与 Sentropy 和 Jigsaw Labs 的 Perspective API 等人工智能驱动的审核解决方案相比，这是一个关键的区别。

Priebe 在一份新闻稿中说：“我们创建了最具适应性、响应性最强、最全面的社区管理解决方案之一，并找到了将最佳技术与独特见解相结合的令人兴奋的方法。”“因此，我们现在被委托协助世界上许多最大社区的在线互动。”

值得注意的是，半自动审核仍然是一个未解决的挑战。去年，研究人员表明，谷歌及其子公司 Jigsaw 开发的工具 Perceive 经常将用非裔美国人的白话写成的在线评论归类为有毒。另一项研究表明，糟糕的语法和笨拙的拼写——比如“我恨你爱”，而不是“我恨你”——使人工智能和机器检测器更难发现有毒内容。

正如 Fake News Challenge 和 Facebook 的Hateful Memes Challenge等竞赛所证明的那样，机器学习算法仍然难以全面了解上下文中的单词。令人震惊的是，Facebook 承认它无法训练模型来找到特定类别虚假信息的新实例：关于 COVID-19 的误导性新闻。Instagram 的自动审核系统曾经让黑人会员禁用的频率比白人用户高 50%。

但麦卡锡对 Two Hat 产品的强大功能表示了信心，该产品包括用户声誉系统，支持 20 种语言，并且可以自动暂停、禁止和静音社区中可能存在滥用行为的成员。

“我们了解当今组织在努力有效调节在线社区时面临的复杂挑战。在我们不断变化的数字世界中，迫切需要能够以有效和可扩展的方式管理在线内容的审核解决方案，”他说。“我们目睹了他们在 Xbox 中产生的影响，我们很高兴此次收购将进一步加速我们在游戏中的第一方内容审核解决方案，在广泛的 Microsoft 消费者服务中，并为我们的客户创造更大的机会。第三方合作伙伴和 Two Hat 现有客户对这些解决方案的使用。”