滚动新闻

谷歌将标记使用其人工智能创建的虚假图像


  谷歌它将在其AI模型创建的图像中嵌入称为标记的信息,以警告人们这些图像最初是由计算机创建的。

  图像中的数据对人眼来说是不可见的,但谷歌搜索等软件将能够读取它,然后显示一个标签警告用户。谷歌还将在其搜索结果中提供有关所有图片的其他信息,以帮助防止欺骗,包括图片首次上传到搜索引擎的时间以及是否被新闻网站引用。

  “图像自我标记为AI生成,”谷歌提供的一个例子警告。

  此举是迄今为止一家大型科技公司为标记和分类所谓的生成AI输出所做的最重大的努力。官员和技术工作者警告说,该技术创建逼真的图像或流畅文本段落的能力可以帮助垃圾邮件发送者,诈骗者和宣传人员愚弄人们。

  例如,最近在Midjourney应用程序上生成的教皇弗朗西斯穿着时尚冬季夹克的图像风靡一时,并愚弄了一些人认为这是真实的。

  人工智能行业面临的一个问题是没有可靠的方法来确定生成的图像。虽然经常有一些线索,例如手画得不好,但没有一种明确的方法可以说出哪些图像是由计算机制作的,哪些是由人类绘制或拍摄的。

  谷歌的方法是在图像从人工智能系统出来时标记它们,而不是试图在以后确定它们是否真实。谷歌表示,Shutterstock和Midjourney将支持这种新的加价方法。谷歌的方法是在图像从人工智能系统出来时标记它们,而不是试图在以后确定它们是否真实。谷歌表示,Shutterstock和Midjourney将支持这种新的加价方法。表示,标记将能够将图像归类为经过训练的算法媒体,这是由AI模型制作的;部分使用 AI 模型制作的合成图像;或算法媒体,由计算机创建但不基于训练数据。

  谷歌周三举行了年度开发者大会,宣布了一款售价1,799美元的折叠手机和其他谷歌产品的其他人工智能功能,包括图像生成器。