北京时间 4 月 12 日消息,人工智能(AI)图像生成器的技术正在迅速发展,它不但能够蒙蔽人类,就连专门用于查图的 AI 工具也未必能分辨真假

今年 1 月时,OpenAI 的 AI 文字图片生成模型 DALL-E 等系统还不够先进,只能渲染出一个手指向后倾斜或多余眉毛在漂浮的人类。但是到了 3 月,一些图片已经逼真到足以欺骗很多人

▲图中有 6 个破绽

上图是一张由微软必应图像生成器生成的图片,里面有 6 个破绽,相对容易分别。如果不看标记,你能找出这 6 个图片漏洞吗?

  • 1.她的手指极长且扁平。

  • 2.她的嘴巴似乎少了几颗牙齿,陷进了她的脸。

  • 3. 她的手进入了桌子里。

  • 4. 他的手指又长又扁。

  • 5.她的衬衫下垂不自然。

  • 6.桌子上的物品混合在一起。

但是,有些 AI 生成的图片已经达到了以假乱真的地步了。例如,特朗普被捕的图片,教皇方济各穿上巴黎世家白色羽绒服的照片,法国总统马克龙穿过抗议人群的照片。

▲教皇穿着巴黎世家羽绒服的 AI 图片

如果不是有人提醒,你可能很难看出这是假图片。这就是为什么埃隆・马斯克(Elon Musk)等科技领袖呼吁暂停 AI 开发等原因。虽然 AI 生成的内容可能很有趣,但它会给行业和日常互动带来风险。它可以被用来传播错误信息、侵犯知识产权

▲Optic 图片工具都被 AI 欺骗了

一些开发人员正在开发工具,通过分析图像以寻找人工智能做图迹象的工具。但问题是,除非这些工具与它们所监视的图像生成器保持同步,否则即使是它们也可能被愚弄。例如,AI 信任和安全公司 Optic 的工具就被欺骗了,它认为有 87% 的可信度相信教皇穿着巴黎世家羽绒服的图片是人类拍摄的

声明:
本站部分内容转载于互联网,转载文章是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请与本网联系,我们将及时更正、删除,谢谢。