展会信息港展会大全

防堵AI深伪诈骗!谷歌搜索结果将标注由AI生成的图像
来源:互联网   发布日期:2024-09-18 09:51:29   浏览:2058次  

导读:谷歌周二表示,计划对谷歌搜索进行调整,使用户更清楚地知道搜索结果中,哪些图像是由AI生成或由AI工具编辑的。 该公司表示,在接下来的几个月中,谷歌将在搜索、Google Lens和Android上的Circle to Search功能的关于此图像窗口中标记AI生成和编辑的图像,类...

谷歌周二表示,计划对谷歌搜索进行调整,使用户更清楚地知道搜索结果中,哪些图像是由AI生成或由AI工具编辑的。

该公司表示,在接下来的几个月中,谷歌将在搜索、Google Lens和Android上的Circle to Search功能的“关于此图像”窗口中标记AI生成和编辑的图像,类似的提示可能会出现在YouTube等其他谷歌的其他平台上。谷歌表示,将在今年晚些时候分享更多相关信息。

值得注意的是,只有包含“C2PA元数据”的图像才会在搜索中被标记为AI处理过的。C2PA(内容来源与真实性联盟)是一群致力于制定技术标准的组织,旨在追踪图像的历史,包括捕获和/或创建图像的设备和软件。

目前,包括谷歌、亚马逊、微软、OpenAI和Adobe在内的公司都支持C2PA。然而,该联盟的标准尚未得到广泛采用。此前有媒体报道,C2PA在推广和互操作性方面面临诸多挑战,目前只有少数生成式AI工具和徕卡、索尼的相机支持该组织的规范。

此外,与任何元数据一样,C2PA元数据可以被删除、擦除或损坏到无法读取的程度。而一些流行的生成式AI工具(如xAI的Grok聊天机器人用于图像生成的Flux)生成的图像不含C2PA元数据,部分原因是它们的开发者尚未同意支持该标准。

但分析认为,尽管如此,有措施总比没有好,尤其是在AI深度伪造(deepfakes)迅速传播的情况下。调查显示,大多数人都担心被深度伪造欺骗,以及AI可能会助长虚假宣传的传播。根据一项估计,涉及AI生成内容的骗局在2023年到2024年之间增长了245%。德勤预计,与深度伪造相关的损失将从2023年的123亿美元飙升至2027年的400亿美元。

赞助本站

AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港