智东西(公众号:zhidxcom)
编 | 季瑜生

导语:面对国防部价值百亿美元的云部署订单,近日谷歌表示将退出竞标,因为该项目可能会违背其一贯坚持的AI原则。

智东西10月9日消息,今年5月,美国国防部面向社会发布了价值百亿美元的“联合企业防御基础设施云”(Joint Enterprise Defense Infrastructure contract,JEDI)项目计划之后,各大云厂商纷纷跃跃欲试。

根据国防部计划,夺标的厂商将会获得这笔价值百亿美元的订单,来为国防部提供共计长达十年的云服务,主要内容包括将大量五角大楼内部数据和算力转移到企业的商业云之上。

届时,将由夺标厂商对云进行运营,国防部则负责训练云上的AI系统,最终实现作战指挥功能。

不过就在今日,谷歌宣布已经退出了这一项目的竞标。对此,谷歌发言人在声明中表示:“我们不会就JEDI合同进行竞标。首先,我们无法保证它会符合我们的AI原则” “其次,我们确定合同的某些部分超出了我们目前的政府认证范围。”

一、谷歌放弃的这笔订单究竟价值几何

五月份的时候,五角大楼宣布截至目前美国国防部史上最大的一笔云计算招标项目份“联合企业国防基础设施合同”(Joint Enterprise Defense Infrastructure contract,JEDI)即将开始。

针对该项目,国防部将与唯一一个中标企业签署一份价值一百亿美元的合同。项目将分一个两年基础交易、两个三年计划交易以及一个为期两年的选择交易。

采取多段式计划也就意味着如果国防部遇到国会拨款紧张时可以有一个预备式的退出计划。如果计划有效就可以相应延期,不理想的话国防部也可以选择终止合约更换合作方。

事实上,签订这笔合约不仅意味着获得一百亿美元的订单,同时也意味着厂商将与美国军方建立起长期的密切联系。

在宣布了JEDI计划不久后,美国国防部随即在七月份宣布将推出价值约为80亿美元的国防企业办公解决方案(DEOS)合同。

与此同时,近年来美国国防部在人工智能与云计算领域的部署预算逐年水涨船高。在其财政报告中,2018年云计算领域的预算为2.3亿美元,2019年为3.93亿美元,到了2020年预计将达到5亿美元。

近水楼台,这份百亿美元大单的重要性不言而喻。

二、备受争议的订单风波

为了争夺这份大单,美国各大云厂商使出浑身解数。甲骨文、谷歌、微软、亚马逊纷纷入局。

早前,甲骨文就曾提出抗议表示国防部之挑选一家合作商然后将高达百亿美元的大单在十年里全权委托的做法不合理。单一平台长达十年的“垄断”会让国防部错过其他厂商在这一期间更具有创造性的突破。

更重要的是由于亚马逊当前与国防部亲密关系,谷歌又因为Maven项目搞得员工抗议内部难以达成统一。这笔订单看起来就像是国防部对亚马逊的“量身定做”。

为此,甲骨文、IBM、微软、戴尔、红帽在内的9大巨头曾经联手游说五角大楼将订单拆分交给多家供应商。

国防部的回应是:单一厂商可以提升平台的安全性,其次可以简化使用流程改善数据存储的便利性。

与抗议的甲骨文们形成鲜明对比的是亚马逊,他们对国防部的这一决定保持着前所未见的沉默。

沉默的底气来自于与国防部的亲密关系以及在当前云市场的垄断地位。

Synergy Research在2017年第四季度公布的统计数据显示,亚马逊一家云市场上的占有率就达到了百分之三十多。微软、IBM、谷歌、阿里几家加起来都不及亚马逊一家的份额。

争议缠身,谷歌退出百亿美元国防项目竞标,称其违背“AI七原则”

三、谷歌内部的长期原则博弈与摇摆

长久以来,谷歌内部都有一条非正式的公司口号,那就是“完美的搜索引擎,不作恶”(The perfect search engine, do not be evil)。

此次放弃国防部百亿美元合同的竞标更是为其迎来不少喝彩。

但是纵观历史,似乎对于这一价值观,谷歌执行的也不是那么坚定。谷歌曾经因为国防AI的事情惹过不少争议,这次退出虽然号称“坚持不作恶”,其实部分原因也是受了形势所迫。

2018年3月,四千多人联名上书、数十位高管辞职的抗议行为,将谷歌与国防部签署的Maven项目曝光于世人眼前。

媒体Gizmodo消息显示,引起了各方强烈反响的Project Maven是国防部针对防御领域的问题提出的人工智能和机器学习解决方案。谷歌将为其提供开源的TensorFlow软件,以及若干技术人员,其核心为人脸识别技术,可以被用于精准识别无人机目标。

针对员工的抗议,谷歌在4月11日一天之内举行了三场由技术骨干以及高管组成的辩论会,就专事进行讨论。

后来知名学者、谷歌云AI首席科学家李飞飞也曾就此事公开表态反对。她表示“我相信以人为中心的AI能以积极和慈善的方式让人类受益,任何AI武器项目都违背我的原则。”

最终,在长达数月的抗争之后,Maven项目的争端才以谷歌管理层妥协的方式落下帷幕。谷歌表示:与五角大楼的AI合作项目Maven在2019年到期后将不再续约。

在这场由底部而上的抗争中,普通员工以及学界功勋卓著。最终,谷歌于五月末宣布不再与国防部续约Maven项目,谷歌重新变成了信奉“不作恶”原则的科技巨头。

六月份的时候,谷歌还推出了其人工智能七原则与四底线。

七原则包括:对社会有益;避免制造或加强不公平的偏见;建立并测试安全性;对人负责;融入隐私设计原则;坚持科学卓越的高标准;为符合这些原则的用途提供服务。

四底线是:如一项技术可能造成伤害,我们只会在其好处大大超过伤害的情况下进行,并提供安全措施。不利用AI研制武器或其他用于直接伤害人类的产品。不利用AI收集使用信息,以实现违反国际规范的监控的技术。不使用违背被广泛接受的国际法或者伤害人权的技术。

此次谷歌宣布退出竞标,一方面是由于亚马逊一家独大导致夺标机会微茫,内部员工又对谷歌与军方合作强烈不满,但同时也是谷歌对其所宣布的AI原则的坚守。

不过就在上周,谷歌CEO桑达尔·皮查伊曾被曝出为缓和与国防部关系暗访五角大楼的消息。

但是无论如何,在此次退出竞标中谷歌体现出的坚守,都足以引起我们的反思:在AI被引入军事的过程中,人们此前“枪不会杀人,人才会杀人”的武器认知是否正确,旧的技术原则又是否早已过时?

文章来源:CNET