谷歌想用AI过滤论坛有害信息 将发布Chrome插件Tune

谷歌的Chrome将推出扩展插件来过滤掉有害的文字。这款名叫Tune的插件可以帮用户自动隐藏Reddit、Twitter、Facebook、YouTube等网站上极度负面的文字。

这和十几年前电子邮件平台利用机器学习过滤垃圾邮件一样，但有更高的响应频次，并且运用了更多NLP（自然语言处理）技术，可以在用户的“调教”下慢慢学会区分更深层次的语言范式。

该项目负责人Jigsaw表示：“我们希望Tune可以成为一种处理恶意链接和骚扰活动的新方法，而不需要人工的进行评论审核。”谷歌的另一位发言人说:“当人们手动留下反馈性信息时，我们可以利用这些数据来帮助培训和改进模型。”

目前，国外众多论坛网站运营者为来自世界各国用户的评论内容困扰着，这些评论夹杂着有害内容，除非网站版主保持警惕（不断人工审查、删帖），否则评论区可能会变成一片混乱。用户有可能在受到骚扰性评论后，放弃了在论坛上发布自己的想法，这对社交、论坛产品极为不利。当然，使用AI过滤不良评论也会漏掉一些信息，不过自动化理解文字内容已经可以为网站运营者节省了不少时间。