Facebook推出新AI系统：有助于检测仇恨言论

北京时间 9 月 12 日，Facebook 宣布开发出一款新型人工智能（AI）系统，可用于检测仇恨性言论。美国科技媒体 CNET 认为，这款“武器”的推出可谓恰逢其时，在 Facebook 面临内容审查的当下，会大有用处。

这一系统的代号为“Rosetta”，可帮助计算机阅读和理解每天发布到社交网络的数十亿张图像和视频。凭借这套新系统，Facebook 可以更容易地发现平台上哪些内容违反了反仇恨言论规则。

通常情况下，计算机使用一种名为光学字符识别（OCR）的方法来识别图片或视频中的内容，但是，由于 Facebook 网信息庞大——每个月有 22 亿人使用该社交网络——OCR 的缺点暴露无遗。因此，Facebook 宣布建立一套更大规模的系统。

该系统同时适用于 Facebook 和 Instagram，还可用于改进照片搜索和新闻流的表面内容。Rosetta 通过从十多亿个图像和视频帧中实时地提取不同语言的文本，对网站内容实施监测。

随着 Facebook 在社交网络上对内容进行审查，这套系统肯定会派上用场。此前，Facebook 网曾被指责对缅甸、斯里兰卡和印度的暴力事件负有一定责任。上个月，该社交网络表示，由于在 Facebook 平台发现虚假信息，该公司正在采取行动，阻止缅甸的“仇恨传播”，截止到目前，鉴于缅甸国内针对罗辛亚穆斯林的种族暴力仍在继续，Facebook 已删除了 18 个帐户和 52 个与缅甸军方有关的网页。

今年 7 月，Facebook 表示将开始删除旨在煽动或加剧暴力的虚假信息，包括书面帖子和受人操纵的图像。此前，Facebook 只禁止直接调用暴力内容，当前的新政策还涵盖有可能激起身体伤害的假新闻。

上周，Facebook 首席运营官雪莉·桑德伯格（Sheryl Sandberg）和 Twitter 首席执行官杰克·多尔西（Jack Dorsey）一起到国会作证，就公司为保护用户而设立的内容审查政策和安全措施进行阐述。

Facebook 的首席执行官马克·扎克伯格过去经常说，正在寻求利用人工智能技术，以便积极主动地检测平台上令人讨厌的内容，而不是等待人们去标记举报。但是当该公司开发这项技术时，他又说，社交网络正在雇用两万名人类主持人来监管平台上的有害信息。

此外，Facebook 星期二还表示，正在向自动翻译工具集添加新的语言。新近增加的 24 种新语种包括豪撒语、乌尔都语和尼泊尔语，至此，翻译语言总数已超过 125 种。