谷歌云新AI主管：在现实世界中部署AI要谨慎

当谷歌云首席执行官黛安娜·格林（Diane Greene）宣布安德鲁·摩尔(Andrew Moore)将在今年晚些时候取代李飞飞担任Google Cloud的人工智能负责人时，她提到摩尔曾担任卡内基梅隆大学计算机科学学院院长，并且曾在谷歌工作过。

格林没有提到的是，摩尔也是美国新安全中心（CNAS）成立的一个人工智能任务小组的联合主席，该中心是一个与美国军方有着密切联系的智库。

与摩尔同为联合主席的是罗伯特·沃克，他是前国防部副部长，纽约时报称其为“Maven项目的创建背后的驱动力”，美国军方分析数据的努力，比如使用人工智能的无人机镜头。

今年早些时候，谷歌卷入了Maven项目，这引发了该公司内部的强烈反对，迫使首席执行官桑达尔·皮查伊（Sundar Pichai）承诺，谷歌将永远不会使用人工智能增强型武器。

聘用摩尔肯定会重新引发关于谷歌在某些市场上参与人工智能的争论以及该公司与军方的关系。人工智能是科技领域最热门的领域之一，拥有巨大的商业潜力。

在卡内基梅隆大学任职期间，摩尔经常讨论人工智能在防御和军事应用中的作用，例如他在2017年关于人工智能和全球安全的演讲中说到：

“如果我们想要，如果我们需要的话，我们可以负担得起，用各种各样的无人驾驶飞机来监视整个世界。”摩尔说，“我并不是说我们想要这么做，但我认为这并不是一个技术上的鸿沟，在我看来，这真的很难做到，目前却是很实际的。”

CNAS，这个成立特别工作组同时也是摩尔担任联合主席的组织，主要关注国家安全问题，其声明的使命是“发展强有力、务实和有原则的国家安全和国防政策，以促进和保护美国的利益和价值观。”

谷歌雇佣摩尔的决定受到了至少一位反对Maven项目的前谷歌员工的不满。

一名前谷歌员工表示：“在对Maven项目广泛存在内部异议之后，谷歌聘请安德鲁·摩尔，这令人担忧。谷歌员工想要的是更少地与军工复合体结合，而不是更多。这一雇佣对4,000多名谷歌员工来说是一记重拳，他们签署了拒绝Maven项目的请愿书。”

谷歌发言人拒绝置评。

▌在现实世界中部署AI要谨慎

摩尔出生于英国，但后来成为美国公民。他经常公开表示，在将人工智能带出实验室并进入现实世界时，需要谨慎行事。

今年3月，当CNAS宣布成立特别工作组时，摩尔强调了“确保这样的系统与人类合作的重要性，这种方式需要赋予人类力量，而不是取代人类，并且需要让人类持有最终的决策权威。”

在最近的CNAS播客上，他描述了其在现实世界中关于人工智能的“保守”观点：“即使我知道，例如在一个城市推出一组自动驾驶汽车可以减少50%的死亡，我也不会想要启动它，直到我发现了一些关于正确性的正式证明，这表明它绝对不会涉及到不必要的死亡。”不过，他并没有回避与军事部门打交道。

摩尔的卡内基梅隆传记提到了过去的工作，涉及“发现和监视恐怖威胁”，他在2017年9月的海军研究报告中提到了“海军部的自主和无人系统”的研究报告。

在2017年关于全球安全的讨论中，他提到了将数字个人助理纳入军事应用的可能性，比如谷歌和亚马逊生产的消费电子产品。他说：“对于我们是否以及何时以及如何为作战人员和指挥官开发个人助理，这是一个开放的问题，即要有完整的信息来帮助消除战争的迷雾，而不需要太多的信息。”

▌在Maven项目之后

谷歌云首席执行官黛安娜·格林（Diane Greene）

谷歌聘请摩尔来监督谷歌云服务的人工智能工作。谷歌云是谷歌云计算服务的子公司，提供数据存储、计算和机器学习等服务，他替代了李飞飞，后者回到斯坦福大学担任教授。

聘用摩尔正值谷歌试图摆脱因公司参与Maven项目而引发争议的时期。

今年早些时候，有消息称谷歌正在协助军方分析无人机的镜头，数千名谷歌员工在一份请愿书上签名，要求管理层终止公司参与其中。还有一些人拒绝为该项目工作，也拒绝向记者泄露文件，这些文件被证明对管理层来说令人尴尬。大约12名员工辞职以示抗议。

今年6月，谷歌CEO皮查伊似乎屈从于员工的要求。他发布了一份指导公司发展人工智能的七大原则清单。

这些措施包括：永远不要制造人工智能强化型武器，并确保人工智能应用于具有社会效益、安全且不会产生不公平偏见的应用领域。该公司没有排除与军方合作的不违反原则的服务，例如电子邮件或数据存储等。

在谷歌内部，对于许多反对Maven项目的人来说，他们的感觉是，公司不应该与军方有任何关系。至少，对于参与Maven抗议活动的谷歌员工，以及那些对其事业表示同情的前雇员，雇佣将会让人质疑谷歌对这些人工智能原则的承诺。

摩尔本人也承认了武器化人工智能的潜在危险。他在2017年的讲话中说，“就像我们能够如此迅速地研发人工智能一样，这是一件好事，同时也是一种威胁。”

“就像我们的一个天才研究生可以很快想出一些东西一样，或许这些想法人们并不那么想要。我们必须为我们正在做的事情做好准备。”他说。