智东西(公众号:zhidxcom)
编译 | 长颈鹿
编辑 | 李水青
智东西5月8日消息,5月7日,OpenAI宣布推出一个面向文生图模型DALL·E 3的图像检测分类器,该工具能帮助用户识别AI工具生成的内容。据内部测试,该工具识别DALL·E 3生成图片的准确率达到了98%。
此外,OpenAI称为了应对图片内容是否真实的挑战,公司希望与业界各方机构一起采用、开发和推广开放标准。据悉,OpenAI昨日开放了图像检测分类器的API,希望通过技术共享来提升数字内容的真实性和完整性。
5月7日,OpenAI宣布加入C2PA(内容来源和真实性联盟)指导委员会。C2PA是一个开放数据标准,其元数据(Metadata)可用以追踪数字内容的初始来源。同日,OpenAI和微软宣布推出200万美元的“社会韧性基金(Societal Resilience Fund)”,用于推动人们对AI技术的认知。
一、OpenAI加入数字内容认证机构,助力鉴别AI生成内容
OpenAI在5月7日加入了C2PA指导委员会,由多家机构共同开发的C2PA是一个被广泛使用的数字内容认证标准。这个标准可以协助用户确认内容的来源,即鉴别一张图是直接由相机拍摄的照片,还是通过像DALL·E 3这样的文生图工具创作的作品。
▲添加了C2PA元数据的DALL·E 3
今年2月7日,OpenAI在ChatGPT和OpenAI API中为DALL·E 3创建的图像嵌入了C2PA元数据。据悉,OpenAI即将推出的视频生成模型Sora也将集成C2PA元数据。
OpenAI称用户无法轻易伪造或修改C2PA元数据。无论内容被如何传播和使用,其元数据都将保持不变,C2PA等标准能够提供关于内容来源和真实性的可靠信息。
OpenAI和微软于5月7日共同设立了一个资金规模为200万美元的基金,这个基金的目的是加强人们对AI的理解,以及推动人们理解和接受数字来源标准。这个基金支持的组织包括美国退休人员协会(AARP)、国际IDEA联盟,以及相关的AI合作伙伴。
OpenAI称实现内容真实性需要全行业的共同努力。平台、内容创作者和处理者需协作保留元数据,以确保内容来源的清晰,从而建立更真实的数字生态系统。
二、OpenAI自研图像检测工具,准确率约达98%
为了增强数字内容的完整性,OpenAI在推广C2PA认证标准的同时还在自研一款图像检测分类器。该工具有助于抵制删除或篡改内容真实来源的行为。
图像检测分类器可以识别出压缩、裁剪、更改饱和度/颜色、去除水印等常规图片操作。OpenAI称,图像检测器在内部测试中,能正确识别约98%由DALL·E 3生成的图像,有约0.5%的概率会将非AI生成的图像误判为AI生成。但其在区分DALL·E 3生成图像和其他AI模型生成图像方面性能较低,约有5-10%的误判。
OpenAI的图像检测分类器现已向AI实验室和AI初创公司开放申请,公司希望通过业内集体协作共同完善图像检测技术。
OpenAI还在其语音模型Voice Engine中引入了音频水印技术,目前处于产品预览阶段。
结语:AI强企斥资普及AI知识,发展可识别数字生态
OpenAI正积极参与构建一个标准化、可信赖的数字内容生态系统。其不仅加入C2PA指导委员会并集成C2PA元数据于DALL·E 3中,还正自研图像检测分类器。
OpenAI与微软共同推出的“社会韧性基金”进一步凸显了OpenAI对于普及AI知识、提升公众对AI技术认知的承诺。
OpenAI的这些努力将使AI生成内容向更规范、透明的方向发展。我们也希望有更多AI企业间技术共享、开放合作的行为来构建一个更加真实和可信的数字世界。
来源:OpenAI