近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。我们应该如何看清这类AI“深度造假”？辨别“AI换脸”有没有什么好方法？我们先来看看近期发生在陕西西安的一起“AI换脸”诈骗案例。

陕西西安财务人员张女士与老板视频通话，老板要求她转账186万元到一个指定账号。

被害人 张女士：老板让把这个款赶紧转过去，这个款非常着急，因为他声音还有视频图像都跟他人长得一样的，所以就更确信这笔款是他说的了，然后我直接就把这笔款转了。

转账之后，张女士按照规定将电子凭证发到了公司财务内部群里，然而出乎意料的是，群里的老板看到信息后，向她询问这笔资金的来由？

被害人 张女士：然后我们就打电话再跟老板去核实，老板说他没有给我发过视频，然后也没有说过这笔转账。

意识到被骗的张女士连忙报警求助，警方立刻对接反诈中心、联系相关银行进行紧急止付，最终保住了大部分被骗资金156万元。

一百多万的现金，对大部分人来说都算是一笔巨款了，好在警方处理及时，挽回了大部分损失，下面我们再来看另一起案例，这起案例的“换脸”技术难度更高，涉案金额也更大。近期， 香港警方也披露了一起AI"多人换脸"诈骗案，涉案金额高达2亿港元。

在该起案件中，一家跨国公司香港分部的职员，受邀参加总部首席财务官发起的多人的视频会议。并按照要求，前后转账多次，将2亿港元转账到5个本地银行账户内，其后向总部查询方知受骗。警方调查得知，这起案件中，所谓的视频会议中，只受害者一人为“真人”，其余所谓参会人员，全部是经过AI换脸后的诈骗人员。

看完这两起案例，您一定有些好奇，AI换脸背后的技术原理到底是什么？在技术层面，它是如何实现人脸的精确识别与替换，创造出逼真效果？我们来听听专家的讲解。

中国网络空间安全协会人工智能安全治理专委会专家 薛智慧：AI换脸过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。其背后最核心的包括为三个部分，首先，利用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次，将这些特征与目标人脸图像进行匹配、替换、融合。最后，通过背景环境渲染并添加合成后的声音，生成逼真度较高的虚假换脸视频。

为了了解AI换脸到底能有多么逼真，记者经过与专业技术人员合作，深度体验了AI换脸技术。

技术人员首先用手机给记者拍了一张脸部照片，导入到AI人工智能软件后，让记者惊讶的是，虽然电脑摄像头前的是技术人员，但是输出的确是记者的照片，几乎可以说是“一键换脸”，不需要复杂的环境和解压操作。

更令人惊讶的是，随着技术人员面部表情变化，照片上记者的脸也跟着一起发生了相应变化。

记者：为什么技术人员这张脸动，我的照片会跟着动呢？

中国网络空间安全协会人工智能安全治理专委会专家 薛智慧：首先通过视频的采集，能够把图片里这个人脸的面部追踪定位到，定位到以后第二步他能够做一个人脸的面部特征点的采集和提取，主要就是包括嘴、鼻子跟眼睛相关的这些明显的面部特征。采集到以后， 第三步就跟把这张原始的照片，做一个变换跟融合跟整形。

记者：通过这张照片还可以做到什么？

中国网络空间安全协会人工智能安全治理专委会专家 薛智慧：当前通过这张照片技术人员已经让这张照片能够动起来，活起来了，而如果更进一步的将这张照片存下来，能够存储大量的照片的话。后期可以把这张照片合成一段简短的视频发布出来。

人工智能人脸检测技术主要通过深度学习算法实现，这种技术能够识别出面部特征并对其进行精准的分析。可以将一个人的面部表情从一张照片或视频中提取出来，并将其与另一个人的面部特征进行匹配。专家告诉记者，如果想要实现视频实时通话时采用人工智能AI换脸技术，一张照片是远远不够的，那就需要不同角度的近千张照片的采集。

中国网络空间安全协会人工智能安全治理专委会专家 薛智慧：如果要实时点对点交流的话，需要再采集更多的照片，完了进行深度学习算法模型的训练，训练出来这个模型以后灌到咱们这个视频里去，就可以做实时的变化跟转换了。这种情况下，就可以做到实时的变脸。声音的交流也可以，需要预先采集一些咱们目标人群当中的声音，然后进行模型的训练，能够把目标人群的声音还原出来。