AI的另一面:会学坏,还会耍小聪明

心缘人工智能2018/06/28

智东西(公众号:zhidxcom) 编 | 心缘 导语:AI也会患上人类有的强迫症、抑郁症等心理疾病,一些研究 […]

智东西(公众号:zhidxcom)
编 | 心缘

导语:AI也会患上人类有的强迫症、抑郁症等心理疾病,一些研究人员已经注意到这一可能,尝试用认知心理学来理解AI的“心理”。

智东西6月28日消息,堪萨斯州立大学和路易斯维尔大学的三位AI安全研究人员合作发布了的一篇新论文《A Psychopathological Approach to Safety Engineering in AI and AGI》,如果AI学会像人一样思考,那么有朝一日它也可能会身患压力和抑郁症等症状。

一、机器人抑郁关我什么事?

机器人或许现在暂时还不需要被治疗,但认知心理学已经被发现是理解人工智能决策的有效途径。此外,一些研究人员表示,现在开始研究机器发展强迫症或抑郁倾向的可能已经不算早了。

这篇论文的合著者、堪萨斯州立大学的一位博士候选人Vahid Behzadan表示,即使是当前相对基本的机器学习算法也可以表现出与人类相似的认知问题。

1、“奖励黑客”

“奖励黑客”,就是指不合适的奖励设置可能导致AI走向“强迫性表面行为”(Compulsive-seeming behaviors),也就是说,AI可能会做一些表面服从而背后偷偷耍小聪明的事。举个例子,一个清洁机器人被程序设定为每次完成清理时都会收到奖励。那么,与其保持一片无瑕的区域,它可能会更乐于反复地制造混乱,这样它就能在每次清理时获得奖励。

2、AI可以学习别人的不良行为

麻省理工学院的科学家故意创造了一个不正常的AI,通过给它灌输Reddit论坛里鱼龙混杂的评论,导致它的行为活像一个精神病患者。巧合的是,微软也做了类似的工作,即让一个名为Tay的聊天机器人学习Twitter用户们的评论方式。

二、成熟的AI更容易患上心理疾病

一些专家表示,更发达的AI可能更容易患上更复杂的身心失调问题。

1、机器人可能有抑郁症表现

葡萄牙尚帕利莫中心(the Champalimaud Center)的神经科学家Zachary Mainen推测道,如果机器人的学习速率被设置的太低,它很可能无法适应周围环境。

2、并非所有的“负面”情绪都不好

一位长期的AI研究人员Jim Crowder曾在雷神公司(Raytheon)合著了一篇人工心理学论文,他认为负面情绪在某些情况下也不都是坏事。比如,压力感能够在高风险情况下引起机器人的紧迫感。

三、但是,但是,但是……

这些后面所说的可能性仅仅是现在设想的AI实验方向。与此同时,谷歌在2014年收购的英国AI公司DeepMind已经应用心理学工具来分析神经网络如何解决基本的图像分类任务。

1、研究人员使用发展心理学家的方法,以研究DeepMind图像分类器正用于分类对象这一假设。他们发现,这个分类器更倾向于根据它们的形状而不是它们的颜色或纹理来匹配对象。

2、DeepMind的两名研究人员在他们的实验中写道:“案例研究的成功证明了使用认知心理学来理解深度学习系统的潜力。”

结语:大蓝图——AI心理学家

无论是人类还是专门的算法,可能总有一天需要AI心理学家用人类心理学家试图理解我们心理的方法来探究AI大脑。Behzadan认为,这项研究可以为人类心理学和人类精神病理学提供更深入的见解。

原文来自:AXIOS

zhidx