想象一下,你是一名跨国公司的财政，总部首席财政官发起视频集会。参会露脸的都是你熟悉的公司高管，安排你转账，你会夷由吗？

2024年年初，香港警方披露首起涉及AI“多人换脸”诈骗案，受害人先后转账2亿港元到不同账户后才察觉不对劲。除了财政是本人，所谓视频参会高管都是假的——犯罪团伙从公开渠道获取影像资料，利用AI深度伪造（deepfake）技术，精心合成。

AI换脸变声的门槛越来越低，“孙燕姿”唱《泪桥》、“张文宏”直播间卖卵白棒、“泰勒·斯威夫特”头像被用于制作色情照片……

2024年12月25日，在南边周末主办的一场直播对话中，中国作家协会科幻文学委员会副主任陈楸帆担忧，AI合成渗入生活，大概仅剩面对面的交谈成为无本相期间“最后的净土”。

有图有本相的汗青被终结，也给诈骗分子可乘之机。不同的统计报告均指出，2023-2024年，利用AI伪造诈欺的案件数量和涉案金额激增。而AI鉴假的商业赛道也越来越挤，这些鉴假AI应用背后的基本原理基本类似，用大量且准确标注的图片数据训练。

虚伪与真实是一场没有尽头的军备竞赛。AI可鉴假，也可学真，鉴假的AI会不会被故意之人用来造假？

鉴假脸

靠近镜头，眨眼、张嘴、转头——这是登录人脸识别体系最常见的提示，以区分屏幕眼前是动态的人，还是一张静态的照片，抑或是一副面具。然而，AI的出现，让假造与真实的博弈变得更加残酷。

AI换脸，是指通过深度学习模型，如卷积神经网络（CNN）提取人脸的关键特性，再利用天生对抗网络模型（GAN）天生人脸。

“如今常见的造假脸手段是文生图、文生视频；大概利用算法和模型，把图像人脸变成动态效果。”瑞莱智慧（RealAI）联合首创人萧子豪对南边周末记者先容。2024年，视频类的AI诈骗数量激增，实时视频换脸，一样平常是播放事先做好的AI换脸视频，或是接入实时换脸视频。

瑞莱智慧创办于2018年，从事AI安全与伪造内容检测，客户来自安防、政务、金融、教诲等范畴。萧子豪结业于清华大学盘算机系，研究AI模型的漏洞题目与攻防训练。

怎样辨别假脸？瑞莱智慧推测换脸类App背后的算法模型，以相识反常识之处。比如两只眼睛是否对称？瞳孔是否圆的？视频中人物是否长时间不眨眼？

某些AI还不能理解“瞳孔应该是圆形”的生物知识。放大图片，左边图片瞳孔为圆形，右边不是。所以左边为真人，右边为假。 （受访者供图/图）

重视保密的机构比如政府、银行等已经连续用上了防换脸的AI安防体系，但是个人用户还在“裸奔”，袒露在假造诈骗的风险下。

To C的市场潜力很大，但难点不是技术，而是个人隐私保护等因素。个人用户遇到假脸诈骗的场景，往往是在实时进行的电信通话、社交软件、网页浏览等私域场景中，AI鉴假师想要“进入”并提示，很难。

如今较为可行的路径是，结合现有的黑名单制度，通过短信关照等手段，提示个人用户AI假冒风险，再由用户主动上传截图、视频录屏和音频进行检测。显然，当用户花心思主动检测，说明这起AI诈骗已经露馅。而且过后检测效果不如实时提示，很多老年人也不会如此复杂的操纵。

担忧本身的脸被用作他途，很多人冷静在社交平台删除正面照，乃至连出门也要戴着口罩和帽子。

中国政法大学比力法学研究院传授、北京知识产权司法保护研究会副会长刘文杰认为，社交媒体高度发达，个人晒照片，集会发布照片，已成为常态，要求每个人对照片予以保密或事先进行模糊处理，不实际，“更可行的是要求平台保护个人信息，并合理预防他人进行大规模的人脸信息收集”。

鉴酒、烟、包

高价产物往往假货丛生，已有企业专门创建了“打假办”，比如茅台团体打假举措连续了几十年。但“自制假茅台被判断为真”事件引发轩然大波。

2024年6月，河南电视台记者在电商平台购买了接纳的茅台酒瓶、瓶盖等，自制了兔年茅台假酒，效果湖北一家茅台打假办居然判断为真。茅台团体厥后回应，当时判断员判断失误，后派专家再次判断为假，并承认利用接纳包材制作假冒产物是痛点。

直击痛点，以图鉴假的AI应用不绝涌现，代价在几元到几十元/次不等。

“经常喝茅台的一喝就知道真假，试想一下，朋友集会推杯换盏，发现是假茅台，场面太尴尬了。”唐平中感慨道。

唐平中是人工智能科学家，曾为多家电商平台计划流量分配与广告订价算法。2018年，他在清华大学教书期间创立了“图灵深视”，为第三方判断服务商，既面向字节、闲鱼等大平台，也为个体消费者服务，业务涉及包袋腕表、美妆日化、鞋服、名酒、JK制服、卡牌玩具等。

令唐平中印象深刻的是，有的商品真假难辨，从业多年的判断师也摸不准。“有个爱马仕包AI判断为真，但五个持证的判断师都认为是假，最后我们找了一位有丰富实战履历的判断培训导师——这个范畴最权势巨子的人士之一，才确认就是真包。”

判断一只包的真伪，人类判断师需要掌握这个品牌全系列包袋的知识，比如不同的皮质、缝合、走线、锁扣，以及防伪标识或芯片等，判断过程耗时一样平常需半小时以上。而AI“吃”进几张照片，几秒钟就能“吐”出效果。

AI的快速识别本事，已经被一些市场羁系部门重视，用于现场快筛。公开资料显示，成都市新都区、贵阳市、寿光市烟草专卖局等都用上了AI智能鉴烟设备，现场稽察效率明显提升。

2023年3月1日，长春，二手奢侈品判断师在给包做判断。 （中新社记者/张瑶/视觉中国/图）

真品太贵，假货获取也不易

如今鉴假AI应用背后的基本原理类似，痛点也类似：一是收集样本很难，真品太贵，假货获取也不易；二是图片需要有专业判断师精准标注，也很难。

以飞天茅台为例，需要收罗的照片包罗酒的外貌、瓶顶、瓶帽喷码、飞天标、背标、瓶底等，专业判断师要标注的数据包罗颜色、巨细、字体、粗细等细节。

AI鉴烟的训练过程类似，珠海乾弘智劲科技有限公司和广东烟草相助过，该公司项目总监宋劲贤先容，研究团队需要逐一收罗真品卷烟的笔墨、标识码和图像信息；再进行图像的预处理,包罗去噪、图像增强、边缘检测等；最后从预处理后的图像中提取关键特性,比方卷烟包装上的标识、笔墨、图案等信息。

同品牌不同包装或规格的香烟有多种，每一种都需要研究职员在不同的场景收罗烟盒六个面的照片，涵盖不同光照强度、噪点色差、干燥潮湿度，收罗加迭代的照片数量近万张。

常见的一条软盒中华香烟要近一千元，购买真烟烧钱；处理数据的算力也烧钱。

认识正品还不敷，AI必须还得相识假货套路。为使模型不偏真或偏假，唐平中先容，样本数量不仅要大，且真假数据最好均衡。

“而假货更欠好收集。”宋劲贤说。假烟也是机械化生产，往往真假掺卖，比如长条外包装是真品，但内里的盒装大概根装香烟是假货。因此，研究团队需要分析烟草局稽察员收缴的假货，掌握假货最新趋势。

为获取假货数据，图灵深视的办理办法是，初期选择和机构或平台免费相助，先获取一定规模的数据样本，再利用AI范畴热门的强化学习技术，天生贴近实际场景的假货样本，以子之矛，攻子之盾。AI怎样天生最好的“假货”，可以说是每家公司技术团队的独门秘籍。

获取数据后，需要专业判断师标注数据，但这一行职员紧张，持证的更少。和图灵深视相助的判断师有数千名，大多持有中检等官方机构的证书，平台会根据他们的资历、汗青辨别成绩主动评级。

黄金难鉴

流畅多、造假便利、羁系难的商品，更适合AI判断师。一些特殊品类，AI还难以介入、发挥上风，比如黄金。

2024年，沪金涨幅接近30%，很多消费者望而却步，加之完婚率走低等因素，金店遭逢闭店潮。

金价跟随市场波动，但黄金的照片区别不大，哪个角度看都是金色的，只有款式和克数不同。

黄金造假资本也不低。“仿冒黄金饰品很难，要做出同样的颜色、光泽、款式、工艺，大概要比买件真的还贵。”驰展控股CEO黄崇望笑着说，“谁敢造大量假黄金？按照如今的金价，很容易触达刑法的数额巨大大概特殊巨大，后果严重。”

驰展控股旗下的“珠宝管家”，是专注于黄金珠宝行业的B2B供应链服务平台，对接上卑鄙的采购、风控、金融需求，黄金质料交易额超120亿元。

零售黄金饰品交易频次很低，鉴假需求不如烟酒包。大部门黄金消费者一辈子只在完婚时买三金、五金、九金，而且只认准品牌专柜，买了以后也不太会卖，只代代传承。

黄金行业的AI需求大概来自商家。接纳黄金，“熔老打新”，都有受骗风险。

但在线下门店，目测、重量、磁性、硬度、火烧等检测可识别真假，这些查验操纵不难，呆板代价也不贵，平凡的就3万-5万元一台，AI进入的利润空间低。

在黄金珠宝判断的专业检测机构，使用场景较为同质化，大概适合AI辅助做快筛，近期黄崇望团队也在调研，“不外据我们相识，判断证书环节在黄金产业的利润率太低，量做不起来的话会很难。”

珠宝管家2024年年初上线了一款AI摄像头，虽然不用于判断黄金真假，但可以快速识别手镯、项链等款式，用算法实时监测柜面黄金饰品的数量与克重，办理人工数货慢、易错、易瞒报的困难。

AI在黄金产业的另一个重要用途是辅助信贷评级。

“黄金生意很传统，店家往往重资产，先给上游垫款，批量买金，再一点点卖给消费者。所以店家经常需要向银行贷款。”黄崇望先容，银行很难评定一些四五线城市金店的信用等级。

“珠宝管家”的AI摄像头能快速识别金店柜台销售环境，结合SaaS办公体系和黄金交易平台，可辨别金店气力，给店家赋予类似微信支付的信用分，为金融信贷提供参考。

2024年3月15日，南京国展中心，珠宝判断师为消费者检测珠宝真假。 （孙忠南/视觉中国/图）

道高一尺，魔高一丈

文生图的AI应用，效果不满足，用户还可以反复修改，但鉴假的AI应用，结论只能一锤定音。

唐平中提到，在学术界，某个范畴的AI准确率进步到85%左右，大概是一个非常了不得的进步，值得发表期刊与赞赏；但是在商业运动中，必须接近100%，才能大规模落地应用，将谋划风险降到最低。

假货永远在研究怎样做得更真，溯源码可以买外包装，芯片可以篡改……AI必须知道边界在那里，而这条边界在不绝前移。

AI鉴假脸也被Meta、外滩大会用作极客挑战赛的赛题。有的赛制要求AI模型既能识别出其他队伍的假脸，还要制造假脸骗过其他队伍的AI。

“道高一尺，魔高一丈”，不法分子大概利用AI鉴假升级造假技术。

“AI判断就像双刃剑，假如造假团队掌握了AI判断都是看哪些参数，他们可以对标真品的参数进步造假技术，比如接纳真品包材，破解溯源码算法，那会很可怕。”宋劲贤说。

一些AI团队如今正在探索的方向是，人与AI相助，双方的鉴假本事都要进步。研究团队尽大概获取更多更新的假货样本，让AI相识并预测假货的套路。当AI初筛效果存疑时，第一时间将照片和疑点回传给人工判断师，更高效地复核；也有团队要求人工判断师单独给出判断意见，若与AI判断效果不符，纳入更多数量的人工判断师再做多轮判断。

如今，图灵深视每天可收到数千单线上判断，累计判断命已超过五百多万单，营收规模较2023年已翻番。AI在3秒钟以内就能给出判断效果，几分钟后人工判断师也会独立给出判断效果，体系根据AI和判断师的汗青准确率主动整合效果。

中国消费市场广阔，也滋生了假货的土壤。国家统计局数据显示，2023年社会消费品零售总额47万亿元，网上零售额15万亿元。AI为保护消费者权益和知识产权提供了新的大概性。

“很多被侵权造假的相干企业不敢公开打假，大多也不愿意向媒体承认假货存在，重要是怕影响正品的销售和美誉度，但实际上假货层出不穷。”一位资深判断专家李黎（化名）告诉南边周末记者，他的办公桌上放着一摞摞的判断报告和各种各样的假货，有的是销量巨大的品牌洗衣液、驱蚊水，有的是代价高昂的明星抗癌药、减重药、心脑血管疾病用药。

国内法定检测机构，从接收样品、判断到出具纸质报告大概要花几个月的时间，查验资本不菲，而且一样平常不接受个体消费者的送样判断。这些检测机构也在研究怎样结合AI技术进步判断效率，比如多波段光谱检查结合大数据AI图像识别全息技术，积极使一线执法检查职员相识最新造假手段，进步现场勘验快筛本事。

“假货制造商也在推测怎样生产更接近真品的外貌，所以如今光看外包装，平凡消费者乃至执法职员几乎无法区别真假，应从外包装、内在质量、源头溯源追踪等多个角度进行判断。”李黎说。

与此同时，刘文杰指出，对违法侵权行为的查处，可以由受害人投诉举报来启动，也可以由主管部门自行启动。无论是哪一种AI鉴假技术门路，都应当具有较高准确率，并在主动识别为假货后辅以人工审核，“基于错误的AI鉴假而发生执法错误，造成正当谋划者遭受损失，受害人有权依据国家赔偿法获得赔偿。”

南边防务智库特约研究员 南边周末记者 黄思卓

责编 汪韬