智东西(公众号:zhidxcom)
编 | 李水青

导语:Instagram推出两大反霸凌功能,对治理网络暴力有效吗?

智东西7月9日消息,美国当地时间7月8日,Instagram推出两大反网络暴力功能,即言论提醒和自主选定黑粉功能,用来帮用户抵制网络暴力。

2016年,以“贾斯汀·比伯退出Instagram”为导火索,Instagram首次推出了负面评论过滤功能。之后,Instagram还通过机器学习来处理含有攻击性信息的照片。

近日,Instagram推出言论提醒和黑粉选定功能,以应对网络暴力。Instagram主管Adam Mosseri说:“为了让人们的身心更加健康安全,我们不惜承受Instagram用户减少的代价。”

一、AI言论提醒功能

言论提醒功能利用AI技术,在冒犯性言论发表之前,向发言者发出提醒。比如:当某用户输入了“你又丑又蠢。”并点击发布时,AI会发出“请为Instagram保持一个友好环境”的提醒。

“通过获得这种干预,人们有机会反思和撤销他们的评论,使收件人避免收到有害评论通知。”Instagram主管Adam Mosseri表示,“经测试,我们发现这项功能确实有引导作用,能使一些用户撤销评论或修改评论内容。”

Ins推两大反网络暴力功能:AI劝键盘侠收回有害言论

三、自主选定黑粉功能

粉丝限制功能帮助用户自主选定黑粉,并限制他们与自己的互动。如:用户选定粉丝Divdivk,限制其对自己的评论权,Divdivk的评论就会只对Divdivk本人可见,不对其他用户可见。众所周知,偏激言论极具煽动力,网络暴力延伸到网下更是贻害无穷。自主选定黑粉功能将赋予潜在受害者自主权,帮他们抵抗霸凌。

“你不用关评论,只需要限制某些人的评论对他人不可见。”Mosseri表示,“被限制用户也不会知道你什么时候登陆了Instagram、查看了他们的评论。”

Ins推两大反网络暴力功能:AI劝键盘侠收回有害言论

三、力表决心,不惜丢失用户

这两款工具是Instagram打击网络暴力的重要成果。“我们致力于引领行业打击网络霸凌行为,我们复盘了Instagram的多年经验,以实现这一承诺。”Mosseri在7月8日的博客中写道。

这个工具也可能有利于商业行为。正如Mosseri在《时代》杂志描述的:“网络暴力言论可能对品牌名誉造成持久的伤害。”

Mosseri表示,他们也在上下求索,以使反霸凌监测不干涉用户的正当自由,避免用户流失。但是Mosseri也在《时代》杂志上说:“为了让人们的身心更加健康安全,我们不惜接受Instagram用户减少的代价。”

结语:利用AI技术净化社交媒体环境

网络之所以成为霸凌的猖獗地,源于网络平台的低门槛、用户的易煽动性和匿名感(自以为在ID下匿名)以及更深层次的商业及局部势力等多种因素。无论是个别用户自发的恶意攻击、在煽动下的情绪宣泄,还是网络水军有预谋的抹黑,都会对当事人和网络环境造成严重破坏。

从理论上说,运用Instagram的防霸凌功能,一些被煽动的用户可以在AI提醒下自我冷静,一些恶意水军可以在“被限制”之后难以发难企业和个人。在我国,新浪微博等社交媒体也具备言论投诉、评论过滤及评论关闭等功能,一定程度上缓解了网络霸凌的问题。

如何使技术成为造福于人的工具,而不是霸凌人的兵器,短期内探讨不会停止。另外,如何使用户既受到安全保护,又不远离平台,也值得各大平台关注。

文章来源:Fastcompany、Engadget