智东西(公众号:zhidxcom)
编 | 季瑜生

导语:Instagram宣布将使用人工智能技术对用户发布的图片以及评论内容进行识别

智东西10月10日消息,今日,Instagram宣布将利用机器学习技术对照片以及评论进行内容识别,将其中涉及人身攻击的违规内容向后台管理提交。

消息发出后,认同者有之,怀疑者亦有之。

一、用AI检测内容,能否成为Instagram与Facebook的救命稻草?

今天,Instagram宣布将利用人工智能技术来进行图片以及评论内容识别检测,这让Instagram在继联合创始人离职后在舆论圈又火了一把。

得益于Facebook在人工智能领域的长期投入,Instagram曾于今年上半年推出了人工智能文字检测功能,此次的新功能中在此前的基础上又加入了照片内容识别与评论识别功能。据悉,该功能将在几周后推出。

在新版本的功能中,针对评论过滤,用户可以在Instagram中直接进行关键词屏蔽。系统所能辨别的骚扰中,囊括了包含性格、外表、心理甚至身体情况在内的多种类型。

Instagram用AI过滤歧视靠谱吗?小扎都不能保证

但是在图像过滤中,人工智能则不能直接扮演上帝之手的角色,最后的判决权还是要交给社区版主。系统一旦检测出违规图片,就会将发帖直接推送给社区版主,让他们进行审核。社区版主确认图像违规之后,会把这些照片直接删除,然后向图片发布者发送信息告知删除原因。

这也就意味着之前一些人将含有侮辱性词语的内容手写下来后拍照上传的行为也将无法逃过审核。

针对此次发布,Instagram的新掌门Adam Mosseri表示“Instagram是没有欺凌的地方。作为新的Instagram负责人,我很自豪我们能够承诺,将Instagram变成一个适合所有人的友好和安全的社区。”“利用机器学习,可以显著减少平台上的欺凌内容,因为很多收到侵害的人他们并不会去主动举报这些违规内容。”

于Instagram而言,将人工智能的识别对象由文本进化为图像,算得上是一个革命性的突破。

此前,在5月份的时候Instagram推出了文本识别过滤功能,但是效果并不显著,因为发布违规文字的人不过是将文字内容变成图片发布而已、而推出图像识别功能则意味着即使通过其他渠道,违规内容也难以在Instagram之上发布了。

另外,Instagram还新推出了一款名叫“善意相机”的滤镜,当用户自拍时选择了该滤镜后,就会有心形铺满整个屏幕,照片发布后还会鼓励用户@好友来分享这张照片,或者也用这个滤镜进行自拍传递。

Instagram用AI过滤歧视靠谱吗?小扎都不能保证

在Instagram与Facebook处于舆论风口浪尖的时候,Instagram推出了这一功能或许正是为了扭转其在大众心中不断滑落的社会形象。但究竟效果如何,还是要等功能上线了才能有一个比较客观的评价。

二、机器识别,到底靠不靠谱?

尽管,Instagram与Facebook对这一功能寄予厚望。但事实上,利用人工智能来对文本、图片或者视频进行识别也算不上什么新鲜事儿。

目前,在图像内容识别方面,各大企业都已经进行了广泛应用,例如看图识物、以图搜图或者智能美颜等功能都是基于这一技术实现的。国内的百度、腾讯、新浪、今日头条、抖音,国外的谷歌、亚马逊、推特都将人工智能用在了图像识别领域。

今日头条副总编辑李彤曾表示在文章审核方面,每人每天的工作量大概是1000篇,而机器一秒钟就能处理100篇而且还日夜无休。

在图片识别精准度上,2017年基于分类图片的图像识别已经非常准确没有太大的发展空间,李飞飞宣布由于ImageNet图像识别大赛不再继续举办,也足以说明当前人工智能在图像识别领域的发展之快。

但是在,图片审核上,除了精准度之外,另一大问题是如何解决图片背后的内涵与隐性信息以及要如何定义负面。

在今年4月10日的参议院听证会上,共和党参议员本·萨斯曾经直截了当的向扎克伯格问道:“你能定义什么是仇恨言论吗?”扎克伯格的回应是“这个问题真的挺难的。”

Instagram用AI过滤歧视靠谱吗?小扎都不能保证

因为通常来说,在人类的表述中,同一个意思可以有各种不同的表述方式,而相同的一句话在不同人眼里也会有不同的理解。不同的文化、不同的表述方式、不同的身份都会带来不同的理解。

另外,随着社会的进步,人们对于同一议题的主流看法也会不断地变化。单单是审美观念或者男女平权问题就在近几年发生着天翻地覆的变化。机器学习又是否能够掌握这些人类社会中的微妙变迁呢?

可以确定的是,在目前阶段,人工智能显然还没有进化出如此先进的水平。

结语:成果不尽如人意但未来可期

就在四月份的听证会上,扎克伯格曾向国会保证将雇佣两万名员工来进行人工内容审核。人工智能当前显然无法完全胜任人类世界中的审核员角色。

尽管技术目前还未曾进化到我们理想的状态,但是当前的“人肉审核”们却将会成为技术进步的奠基者,在人工审核提供了海量的样本数据后,机器的进化指日可待。

原文来自:techcrunch