四川在线记者 高杲

什么？！肉眼难辨真伪的AI合成图片，AI竟然一眼就能识破！

近日，国家反诈中心App正式上线AI内容鉴定功能，支持图像、视频等内容的AI识别检测，应对当下泛滥的AI换脸、伪造图片视频等新型诈骗手段，该消息很快冲上热搜，引发广泛关注。

效果如何？记者打开App，随手上传一张拍摄的照片，1分钟不到，平台上出现“未检测到合成痕迹”的字样，但当换成一张用AI合成的图片时，图片就会被判定“含有AI生成痕迹”。

用AI破解AI，如何做到？

“首先，要从元数据入手。”成都潜在人工智能科技有限公司的业务之一是审核并筛查AI内容，企业谛听技术总负责人廖磊说，由真实相机拍摄的照片，会包含拍摄设备、参数、时间等信息，同时，各类图形处理、影像剪辑平台在制作内容时，也会留存一些标识信息。“通过AI识图等工具，对比这些信息，可以初步筛选出可疑图像。”

但仅仅依靠元数据远远不够，还需要通过物理世界、像素断层等细节来判断。“真实照片需要遵守物理定律，有些细节肉眼可能会忽略，但AI通过大量比对，则可以识别。”廖磊说，如果是真实照片，图像中光照方向一致、眼镜反射与背景匹配、皮肤下的脉搏信号虽然微弱也可测……这些细节将构成与物理世界一致性的特征，但目前的AI技术还难以完全达到。“另外，如果放大图片，真实图片像素过渡平滑，AI图像会出现像素断层等情况，以头发来说，真实图片可能看到是一丝一丝的，AI制作则可能是模糊的。”

准确率如何？潜在科技谛听业务负责人赵晨说，从行业整体情况来看，综合准确率在95%以上，根据不同的应用场景准确率会有所不同，例如人像等细节元素较多的内容，准确率会更高，而一些细节较少的内容，则会略低一些。

多位受访者提到，想要更好识别AI虚假信息，通过技术“去伪”还存在一定局限性，要避免合成信息与真实信息混淆，除依靠企业技术研发外，还需多措并举做好 “存真” 工作。

其中，“内容标识”是一个常见做法。省人工智能行业协会秘书长陈章注意到，去年9月，国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》正式实施，要求所有AI生成的文字、图片、视频等内容都要“亮明身份”。“对每一条信息都进行技术鉴定，会带来极高的社会成本，通过强制‘标识’，从源头确保信息的真实性，有利于减少因AI生成内容引发的侵权、诈骗等问题。”