近日，在呼和浩特市全民摄影双月赛第三期中，斩获一等奖的环卫工题材作品，被网民质疑并经官方通报确认为AI生成。回看该作品，可谓“一眼假”：衣服上的文字是典型的AI乱码，光线与景深极不自然，女工举起瓶子的手严重畸形，喷洒出的水流甚至同时呈现违背物理常识的三条反向轨迹。就是这样一张破绽百出的AI图，竟在官方主办的比赛中突破重重审核拿下大奖。
这不仅是对脚踏实地创作者的伤害，更是对赛事公信力的透支。
△图/王晨
当AI生成的假照片能轻易冒充实景原创并获取荣誉，当“眼见为实”沦为“眼见为虚”，整个社会的信任基石便被动摇，亟须给信息世界配上“数字照妖镜”。
当心消费中的“视觉陷阱”
清晨的推送、午后的直播、傍晚家庭群里的分享，数字信息已像空气一样，填满了现代人的日常生活。过去，人们常说“耳听为虚，眼见为实”，一张照片、一段视频，往往足以作为判断与信任的依据。然而，当生成式人工智能技术日渐普及，这条维系社会信任的朴素法则，正面临前所未有的挑战。
这种动摇不仅存在于公共赛事，同样潜伏在日常生活的毛细血管中。以网络购物为例，商品展示图里模特的上身效果、瓜果的鲜亮色泽、物件的精细纹理，本应是消费者决策的重要参考。而今，这些视觉信号可能构成一场精心布置的“视觉陷阱”。有消费者发现，商家展示的农产品图片里，农户捧着沾泥的土豆，大小匀称，但收到的实物却差异明显；展示图里连衣裙的刺绣细节栩栩如生，到手的衣物却做工粗糙。当消费者试图找客服理论，商家的说辞往往是“图片仅供参考”。这种货不对板的体验，正悄然消耗着线上交易积累的信任。
从摄影大赛“滥竽充数”的闹剧，到线上购物“图片仅供参考”的无奈，当造假变得轻而易举，辨别真伪愈发困难，整个社会的信任地基便会出现裂缝。更令人担忧的还不只是这些。你有没有收到过“朋友”发来的借钱语音，或者“领导”转发的紧急通知？随着AI换脸、变声技术的普及，诈骗分子也开始利用这些工具制造以假乱真的场景。一段合成的声音、一张伪造的转账截图、一个看似来自官方的虚假通知，都可能让人在慌乱中做出错误判断。技术的进步，让骗局变得更具迷惑性，也让普通人的防范变得越来越困难。
相关监管和技术手段正在跟进
面对这一现实挑战，相关监管和技术手段正在跟进。去年9月正式实施的《人工智能生成合成内容标识办法》明确规定，AI生成内容需添加显式或隐式标识，这就如同为数字内容打上“出生证明”。中央网信办也在全面推进规范短视频内容标注工作，要求平台为用户提供涵盖“含有虚构演绎内容”“含有AI生成内容”等类别的必选标签，并将标注设为发布前的必经环节，同时明确要求平台对存量内容进行分批回溯补标。
在技术鉴定层面，“国家反诈中心”App近日正式上线AI内容鉴定功能。用户只需上传图片、视频、音频或文本，系统即可快速检测是否存在AI生成痕迹。对普通民众而言，这意味着手机里多了一面可以随时使用的“照妖镜”——收到可疑的“领导”语音、来路不明的“中奖”凭证、看起来有些蹊跷的商品图片，随手一拍、一键上传，几秒钟内便能获得辅助判断。与此同时，多个互联网平台也已上线类似鉴定功能：淘宝天猫面向高评分优质商家开放售后AI假图识别模型，抖音电商内置AI鉴伪能力并对AI数字人内容实施强制标注，扫描全能王则推出AI图片检测功能以辅助用户甄别伪造内容。
但也应看到，任何检测工具都存在能力边界，当前尚无模型能在所有场景下实现毫无差错的判断。不同工具的检测方向各有侧重，有的查找光影和透视漏洞，有的分析像素纹理和噪点分布，有的专门识别隐形水印，同一张图片经不同工具检测可能得到不同提示。此外，图片一旦经过裁剪、调色等二次加工，AI生成痕迹往往会被进一步掩盖；还有相当比例的图片属于“实拍加AI修图”的混合产物，恰好落在判定的灰色区间。这些因素共同决定了现阶段的AI内容鉴定，更适合作为一种辅助参考手段，而非唯一判断标准。
消费者要养成用鉴定工具进行初步核验的习惯
因此，对于普通人而言，在技术完善的过渡期里，可以养成几个日常习惯：对可疑的图片、视频或语音，不轻信、不急于行动，先使用可用的鉴定工具进行初步核验；在电商购物时，对过度精美或背景过于完美的商品图保持合理审慎，多留意用户评价中的实拍晒图；面对官方赛事或机构发布的获奖作品、公示图片，不因“官方”标签而放松甄别，遇有破绽可借助鉴定工具验证，用每一次理性判断守护公信力；收到涉及转账、借钱的线上请求，尽量通过电话或当面核实，不单凭一条语音或一段视频便做出决定。同时，可关注反诈部门和平台发布的日常提示，了解AI造假手法的更新动态，逐步提升自身的辨别意识。
说到底，技术本身并无善恶。它既可以被用来伪造瑕疵图片恶意退款，也可以被用来鉴定真伪守护公平。当AI生成内容日益普及，AI内容鉴定技术的出现，就像为信息世界配备了一面“数字照妖镜”。它虽不能一劳永逸地消除所有虚假，却在数字生态中为公众提供了一道可及的技术防线。这面“数字照妖镜”照出的，不仅是图片背后的真假，更是一个社会在面对技术变革时，对公平、诚信与安全的那份坚守。
（作者系全国政协委员、上海市新联会会长）
作者：张毅
文字编辑：王菡娟
新媒体编辑：臧文婧
新媒体审核：杨岚
作者：人民政协报
