1

AI会不会终结人类文明?马斯克与扎克伯格吵起来了

海中天人工智能2017/08/09

智东西(公众号:zhidxcom) 编 | 海中天 围绕AI,科技富豪马斯克与扎克伯格公开论战,马斯克认为,F […]

智东西(公众号:zhidxcom)
编 | 海中天

围绕AI,科技富豪马斯克与扎克伯格公开论战,马斯克认为,Facebook CEO扎克伯格的理解“有限”。

月初时,特斯拉、SpaceX CEO马斯克发表言论,他呼吁大家提前行动起来,对AI进行监管,因为马斯克相信AI“会对文明的存在构成本质威胁”。

本月,马斯克告诉一群美国官员,说潜在威胁并不是假想出来的,他们应该对AI进行监管。1

马斯克称:“我一直听到警报在响,在人们看到机器人跑到街上杀人之前,大家不会知道如何反应,因为这样的事看起来虚无缥缈。”

多年来马斯克一直在发出这样的警告,他担心人类会成为第二文明,未来AI才是主导,或者我们可能会陷入《终结者》一样的处境,到时机器会起义。

周日时,扎克伯格表达了自己的观点,他认为这种警告“不负责”。

扎克伯格当时在Palo Alto的家中通过Facebook Live直播,有人向他提问,于是他表达了自己的看法。一位观众问:“最近媒体采访了马斯克,我看了报道,对于未来,他的最大担忧是AI。你对AI有何看法?它会对世界造成怎样的影响?”

扎克伯格的回答相当坦率,他说:“关于这个问题我有很强烈的看法。我是一个乐观主义者。总的来说我很乐观,我认为大家可以开发一些好东西,让世界变得更好。有人是反对者,他们宣扬末日论调,我真的无法理解。这种看法很消极,从某种意义上讲,我甚至认为这样说是相当不负责任的。”

在扎克伯格看来,AI的反乌托邦色彩并不浓重,它可以诊断疾病、驱动无人驾驶汽车,可以拯救许多人的生命。

“每一次当我听到有人说AI未来会伤害人类,我就会想:技术总是可以用在好的地方和坏的地方,开发时你应该小心一些,你应该对自己开发的东西小心一些,对它的使用小心一些。”

“有人主张说开发AI的速度应该放慢一些,我认为这种主张大有问题。如果你反对AI,你就是反对更安全的汽车,这些汽车不会发生事故,你还在反对更好的诊断技术,当你生病时,这种技术可以给予更好的诊断。”

扎克伯格称:“致人死亡车祸是排名很靠前的一个原因,现在仍然如此,未来如果能用AI终结车祸,就会有很大的改善。”

一天之后,马斯克在Twitter上反驳,他说:“我与马克讨论过这个问题,他对这个问题的理解很有限。”

AI领袖们普遍认为,还要再过几十年计算机才能达到人类智力水平,还有一些人则认为,那一天根本不会到来。不论怎样,专家们相信如果计算机变得像我们一样聪明,它们很快就会变成“超级智力”(superintelligent)。2

这不是马斯克与扎克伯格第一次展开论战。去年9月,SpaceX曾尝试发射一颗互联网卫星,让Facebook在非洲推广Free Basic项目。然而猎鹰9号火箭爆炸了,摧毁了火箭与货物,也就是AMOS-6卫星,原本Facebook想用这枚卫星给非洲农村地区提供互联网服务。

扎克伯格不太高兴,他在Facebook页面上说:“我在非洲,听到SpaceX发射失败,毁掉了我们的卫星,我相当失望,卫星可以提供互联网连接,这样许多企业家与非洲大陆的每一个人都能使用。”

在新的论战中,扎克伯格占据上风,因为在科技行业他的观点十分流行:你没有办法向硅谷扔一块石头却不伤害某个人的AI平台。现在公众开始理解到AI和机器学习的好处,主要是通过数字助手感知的,比如Alexa、Siri。大家会忽略马斯克的担忧,甚至会认为他是在胡说。事实上,我们应该警惕。

以目前的AI技术水平而言,“超级智力”不是主要的问题。不过马斯克的担忧是正确的,未来AI会超越人类。如果AI开发未经审查,后果不堪设想,它与家庭的距离很近,近到超乎你的想像。

暂时将“天网”抛在一边。要想了解当前AI技术的利弊,最好看看安迪·鲁宾(Andy Rubin)的Essential,它的目标是成为智能家庭的“通用翻译器”。鲁宾的计划是这样的:开发一款手机,推行一堆实用的智能家庭项目,让它们(以及平台Ambient OS)兼容一切。

鲁宾的梦想比我们在手机上使用App更超前,甚至超越了平台式解决方案,比如苹果Home、谷歌Weave。在Essential的世界里,房间里的所有一切都与互联网连接,Ambient OS从你的交互与输入中学习,它可以在任意给定时刻预测需求,为你提供服务,根本不用考虑设备、核心软件是谁开发的。

接受《连线》杂志采访时鲁宾是这样说的:

“它知道你想要什么,因为它会观察你,不断学习,当你穿上鞋子时它就会给汽车加热,因为穿鞋是你早上在家里做的最后一件事。当你说:‘告诉Anna是时候吃晚餐了。’系统就会知道谁是Anna,她在哪个房间,知道用哪个音箱通知她。要实现这样的目标,唯一的办法就是让一切互联。”

鲁宾的梦想很有魅力,虽然离发生还有很多年的距离。不过大多人都认为它最终会实现,到时连接的等级会高很多,收集的数据也会多很多。

用物理系统(比如房屋)处理所有与某个人有关的交互活动,就会形成新型数据,有时它叫作“物理图”。分析一个人或者一个家庭的物理图(处理收集的数据),这样鲁宾、扎克伯格的梦想才能变成现实。

如果我告诉你,设备制造商、你的ISP会查看数据,想查看就查看,而且还会与其它人分享数据,又会怎样?现在还没有发生。不过如果某一天你的所有设备都与互联网连接,发生这样的事就是极有可能的。

将计算机组成网络,监视预测人类行为,这是一项了不起的成就,而且它会变得更好。除了服务人类,AI还可以操纵人类,有时我们甚至都无法察觉。这就是黑暗的一面,此时“天网”将会无处不在。

zhidx