2024 年初,香港警方通报了一桩诈骗案:某跨国公司香港办公室的财务人员收到"CFO"的邮件,要求向海外账户汇出巨款。他的第一反应是对的——怀疑这是钓鱼。为了打消疑虑,他被拉进一场视频会议:画面里是"CFO"和几位他认识的"同事",相貌、声音都真实。他照办了,分 15 笔把 2 亿港币(约 2560 万美元)转进了五个账户。几天后向总部核实,他才发现被骗。用港警高级警司对媒体的话说,那场多人视频会议里,"他看到的所有人都是假的"。
这桩案子最苦涩的地方不是金额,而是那个细节:受害者做了我们所说的"验证"——他没有轻信文字,他要求面对面确认。只是他的验证靠的是眼睛和耳朵。而眼睛和耳朵,在 2024 年已经失效了。
## 第一道防线:肉眼,实测失效
肉眼分不清真假,不是感慨,是实测结果。2022 年,PNAS 发表了一系列知觉实验:研究者用 StyleGAN2 生成 400 张覆盖不同性别、年龄、种族的合成人脸,每张都配对一张相貌相近的真实人脸。315 名参与者分辨真假,平均正确率 48.2%——接近掷硬币水平。
第二个实验更残酷:219 名新参与者接受了训练和逐题反馈,正确率也只升到 59%,而且不随练习继续提高。作者的解释是:有些合成脸根本不含任何可感知的破绽。第三个实验最反直觉:223 人给面孔的"可信度"打分(1 到 7 分),合成脸平均 4.82 分,显著高于真实脸的 4.48 分;最"可信"的四张脸里,前三张全是 AI 生成的。论文的结论:合成人脸已经越过恐怖谷,"不仅难以分辨,而且比真脸更可信"。
同一篇论文里还有一句容易被忽略的话,像是对整条"看仔细点"路线的判决:在一个任何图像视频都可伪造的数字世界里,"任何不合时宜、不受欢迎的录像,其真实性都可以被质疑"。
## 第二道防线:检测器,打不赢的军备竞赛
那让算法来分辨行不行?也难。检测模型与生成模型天然处于军备竞赛;实验室里训练的检测器,一进真实世界就面对没见过的生成器、压缩、截图和转发,表现崩塌。这不是媒体的苛评——PNAS 那篇论文自己就写道:现有检测技术不够高效、不够准确,"无法应付每天涌入的海量上传"。科技媒体 Ars Technica 的总结同样直白:那些声称能直接鉴定 AI 内容的工具,"在真实场景中已被证明极不可靠"。
行业的应对是换思路:从"事后猜是不是假的",转向"出生时就声明"。谷歌的 SynthID 于 2023 年 8 月发布,给 AI 生成的图像、文本、音频、视频嵌入不可感知的水印,官方口径已有超过 100 亿件内容被水印;2025 年 5 月又上线了验证门户,供人上传内容查询是否带水印。但边界同样清楚:它只认谷歌自家工具(及少数伙伴)生成的内容;谷歌自己承认水印可被规避,文本尤其难保;门户先向早期测试者开放,记者、媒体人和研究者可按候补名单申请。2023 年,七家 AI 公司曾向白宫承诺开发水印技术;而按 Ars Technica 2025 年 5 月的评估,统一的、互相承认的标准仍未出现。
## 第三道防线:凭证,正在部署也在摇摆
更体系化的方案是凭证。C2PA 联盟——指导委员会里有 Adobe、Amazon、BBC、Google、Meta、Microsoft、OpenAI、Sony、TikTok、Truepic 等——维护着一个叫 Content Credentials 的开放标准:像给内容附上"营养成分标签",记录它由谁创作、何时、用什么工具、经过哪些编辑,任何人随时可查。
平台已经动手。Meta 在 2024 年 2 月宣布,将读取图片文件里 C2PA 等行业标准元数据,为来自谷歌、OpenAI、Adobe、Midjourney 等工具的 AI 生成图片自动打标签;逼真的 AI 视频和音频则要求上传者主动声明,不声明者处罚可到删帖。
但部署的现实比公告混乱得多。转向"更多标签、更少删除"的 Meta,从 2024 年 7 月起停止单纯按旧的操纵媒体政策删帖;也是同月,它把大量只做过轻微 AI 修饰的真实照片误标成"Made with AI",摄影师群体强烈反弹;9 月,Meta 再后退一步——"仅由 AI 编辑"的内容,标签被收进帖子的三点菜单里,只有完全 AI 生成的内容保留显眼标签。而 Meta 官方博客当时就坦言:无法识别所有 AI 生成内容,隐形标记也可以被剥离。
凭证路线的摇摆暴露了一个结构性矛盾:标签太严,误伤普通修饰;太松,放过真深伪。而它还在制造一条新的分界线(这个判断是本文的):带凭证的内容——大机构、大平台、新款相机拍的——享受推定真实;不带凭证的内容——旧照片、截图、普通人拍的——默认被怀疑。真实性,正在成为一种分配不均的资源。
## 说谎者的红利
这个词是 2019 年两位法律学者 Chesney 和 Citron 提出的:深伪不只让"假的被当真",更让"真的可以被指为假"——当任何录像都可以被声称为伪造,真被录下把柄的人就有了现成的辩解,说谎从此有了分红。
这不是思想实验。加蓬总统的政治对手曾宣称,一段总统公开露面、证明自己健康的视频是深伪;这一说法后来成为一场未遂政变的部分正当性借口。有专家评论:"某种意义上那段视频是真是假已经不重要——它已经被用来瓦解可信、制造怀疑。"2023 年 9 月 28 日,斯洛伐克议会选举前两天,一段"显示"反对党领袖 Šimečka 与记者商量如何操纵选举的伪造音频在社交媒体疯传;他最终败选。有人称之为第一场"被深伪影响的选举";哈佛肯尼迪学院的《误信息评论》提醒,把整个选举结果归于一段音频,过于简化了复杂的选举动态——但同样无法否认的是:造假成本几乎为零,澄清却跑不过传播。2024 年 1 月,美国新罕布什尔州初选前两天,数千名选民接到"拜登的声音"劝他们别去投票的电话;操盘者事后承认,只花了 150 美元请人用 AI 制作,自称目的是提醒公众 AI 的危险。那年 2 月,美国联邦通信委员会(FCC)先行裁定:AI 生成的语音属于联邦电话法里"人工或预录声音"的管制范围,用在自动语音电话里即属违法;9 月,FCC 对操盘者开出 600 万美元罚单——这是它首宗涉及生成式 AI 的处罚——他还面临 13 项重罪和 13 项轻罪的州检控。
惩罚来了,但落在选举之后。而说谎者的红利还有个更别扭的属性,Citron 把它写进了国会证词:人们对深伪了解得越多,就越可能不相信真实的录像——反深伪的公众教育,同时在给说谎者的辩解充值。早在 2017 年,媒体就记录到俄罗斯、巴西、土耳其、波兰等十几个国家的政客捡起了"假新闻"话术;《美国政治科学评论》已刊出专文,实证检验"政客把真实信息标为伪造以逃避问责"这一策略。
## 三个判断
第一,真实性正在从"感知判断"迁移为"凭证查证"。"看起来是真的"已经实测失效——正确率 48.2%,与掷硬币相当;"检测器说它是真的"不可靠也不通用;剩下的是查凭证:水印、签名记录、来源链。对普通人,这意味着:辨真伪不再是一眼能做的事,它正在变成一项要动用工具、查来源、做交叉验证的工作。
第二,凭证能证明"出处",不能证明"真相"。Content Credentials 能告诉你这段素材是谁、何时、用什么拍的、改没改过;但它不能告诉你内容说的是不是真的——真实画面配上虚假语境、摆拍的"纪实"现场,都可以带着完好的凭证。行业修的是"出处真伪"的基建,公众会把它当成"内容真假"的基建来用,这中间的落差会被利用。验证的最后一公里,仍在多源比对与机构核查里,不在任何一个标记里。
第三,深伪最大的伤害,可能不是假内容骗过了多少人,而是所有真证据都在贬值。录像曾经是问责的"铁证"——在法庭上,在舆论里;现在它降级成了"待核实的线索"。这笔贬值等于向整个信息环境征税,税款却流进最会逃避问责的人的口袋。
## 四个带走的东西
第一,别再信直觉。"看起来真"不代表真,"看起来假"不代表假——你的眼睛在这道题上的实测成绩就是随机水平,训练也只多救回十个百分点。
第二,用流程替代直觉:查平台的 AI 标签和凭证标记;反向搜图找最早出处;找第二个独立来源;重要内容回到原始发布,别停在转发链的截图里。
第三,警惕"说谎者红利"话术。当有人——尤其是当事人——把不利影像指为"深伪"却不举证,请把这句否认本身当作需要核实的信息。否认也需要证据。
第四,给自己留凭证:重要时刻保留原始文件和拍摄元数据;发布内容时,条件允许就带上凭证签名。在不久的将来,"能证明自己是真的",可能与"是真的"同样重要。
眼见不再为实。但也别让"眼见不再为实"变成新的懒惰借口——替代眼睛的,不该是怀疑一切,而是更耐心的查证。你有过"一眼分不出真假"的时刻吗?评论区聊聊。