谷歌创建了一个名为SynthID的新工具来识别AI生成的图像。SynthID将难以察觉的水印嵌入到图像中，以将其标记为合成的。该工具旨在负责任地使用AI图像生成技术。
随着人工智能（AI）系统创建越来越逼真的合成图像，Google开发了一种名为SynthID的新工具，以帮助识别计算机生成的照片和艺术品。
虽然该技术最初可供选定的GoogleCloud客户使用，但该技术代表了朝着识别AI生成内容迈出的一步。
SynthID将难以察觉的数字水印嵌入到AI生成的图像中，即使在裁剪或颜色更改等修改后也能检测到它们。
使用新的文本到图像模型Imagen，Google正在与选定的GoogleCloud客户一起测试SynthID。
SynthID的工作原理
与当今常用的可见水印不同，SynthID的数字水印直接编织到像素数据中。
该工具使用两个一起训练的AI模型——一个用于添加难以察觉的水印，另一个用于识别它们。
Google优化了这些模型，以嵌入与原始图像内容一致的水印，在启用检测的同时保持视觉质量。
在内部测试中，SynthID经过大量编辑后准确识别了AI生成的图像。它提供了三个置信度来指示图像包含SynthID水印的可能性。
虽然Google不承诺对极端图像处理无误，但SynthID提供了一种负责任地利用AI生成内容的技术方法。
该工具有望与其他AI模型一起发展，将其功能从图像识别扩展到音频、视频和文本。
对企业和数字营销人员的影响
尽管该工具仍处于起步阶段，但人工智能生成的图像检测的进步对企业和营销人员具有多种影响。
·更多问责制：将难以察觉的水印嵌入到AI生成的图像中提供了一种识别用于创建水印的AI系统的方法。
·新的考虑因素：营销人员必须考虑是否以及如何识别他们用于营销活动的AI生成的图像。适当的归因可以与消费者建立信任。
·新机遇：水印技术为大规模生成AI图像开辟了创造性的可能性，同时保持归因。精明的营销人员可能会发现新的应用。
简而言之，SynthID可以重塑围绕负责任地使用AI的对话。随着人工智能竞赛的升温，这将是一项有趣的技术。
这会成为一种发展方向吗？
越来越多的伪造的人工智能生成的政治人物图像开始在社交媒体平台上流传，这些平台比以往任何时候都更难确定它们是否真实。今年3月，一张人工智能生成的教皇弗朗西斯穿着一件白色蓬松夹克的图像，虽然在很大程度上是无害的，但引起了混乱，并帮助揭示了这些系统的力量。
“能够识别人工智能生成的内容对于让人们了解何时与生成的媒体互动以及帮助防止错误信息的传播至关重要，”谷歌DeepMind研究人员说。
研究人员表示，这两种模型已经针对各种不同的图像类型进行了测试，以使其为不同类型的图像的众多情况做好准备，并针对一系列场景进行了优化，包括在图像被修改时正确识别水印，并对齐标记以使其更适合原始内容。使其更难以察觉。
使用谷歌的文本到图像扩散模型Imagen的客户现在可以选择添加水印。鉴于深度伪造的兴起和全球法规的增加，水印是打击深度伪造的重要一步。
谷歌等七家大型科技公司在7月份的白宫倡议中对人工智能安全做出承诺。该公司还与Microsoft、ChatGPT开发商OpenAILP和人工智能研究初创公司Anthropic一起创立了FrontierModelForum，这是一个致力于安全和负责任地开发AI模型的行业机构。这项技术也正值欧盟准备正式制定其“人工智能法案”立法框架之际，以锁定其成员国更安全地使用人工智能。