原创 成家颖 天地人律师事务所 2023-07-20 17:37 发表于湖南

文 | 成家颖

近段时间，警方发布了多个“AI 电信诈骗”典型案例。案件披露后，“AI 电信诈骗正在全国爆发”话题一度冲上热搜第一，引发网友热议。包括北京反诈、武汉市反电信网络诈骗中心等官方公众号平台，都警告了 AI 技术新骗局的严重性，甚至表示AI技术电信诈骗“成功率接近100%”。

在此背景下，本文拟对利用AI换脸技术实施电信诈骗的方式、所涉及到的犯罪以及防范措施进行介绍和分析，以期对人工智能时代新型电信诈骗的防范有所裨益。

利用AI换脸实施电信诈骗的方式

实践中，违法犯罪分子利用AI换脸实施电信诈骗的步骤通常为：首先，通过窃取、从第三方非法购买等方式搜集、获取公民个人信息，并对这些个人信息进行筛选，确定目标对象；其次，通过骚扰电话录音、微信语音录制等方式提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方；最后，通过从人脸识别数据库窃取、从第三方非法购买、截取他人发布的视频或动图等方式获取他人面部生物特征，使用AI技术将某人的脸和声音合成到另一个人身上，进而实施电信诈骗。从各地公安机关发布的案例来看，当前违法犯罪分子利用AI换脸实施电信诈骗的方式主要有以下几类：

其一，将自己的脸和声音伪装成被害人熟人的脸和声音实施诈骗。【案例一】来自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。事后，郭先生拨打好友电话才得知被骗，原来骗子通过AI换脸和拟声技术，佯装好友对其实施诈骗。

其二，使用被害人脸部信息制作淫秽视频进行敲诈勒索。【案例二】2021年某派出所接到报警，受害人小陈与女网友视频聊天后，被对方利用AI换脸技术，将小陈视频中的面部合成到不雅视频中，借此对其实施勒索，若不支付财物，就将其不雅视频发给其亲朋好友，或发布到网络上。

其三，利用AI软件伪造人脸识别认证解绑用户账号。【案例三】在净网2021专项行动中，南通警方破获了一起AI人脸识别诈骗案件。据官方介绍，该犯罪团伙主要利用AI软件伪造人脸识别认证来解绑用户账号，再以低廉的价格将账号卖给下游的诈骗份子，从而非法牟利。

利用AI换脸实施电信诈骗涉及到的犯罪

笔者认为，利用AI换脸实施电信诈骗的，可能涉及以下几类犯罪：

（一）诈骗罪

根据《刑法》第二百六十六条和我国刑法学通说，以非法占有为目的，用虚构事实或隐瞒真相的方法，骗取公私财物，数额较大或多次诈骗的，构成诈骗罪。

案例一中，违法犯罪分子将自己的脸和声音伪装成被害人熟人的脸和声音实施诈骗，主观上具有非法占有他人财物的故意和目的，客观上实施了虚构虚假视频和声音的手段，隐瞒自己并非被害人熟人的真相，使被害人陷入错误认识，误认为与自己视频聊天的人是自己的熟人，最终“自愿”交付财物，违法犯罪分子诈骗数额较大或多次实施诈骗的，符合诈骗罪的犯罪构成要件。

（二）侵犯公民个人信息罪

根据《刑法》第二百五十三条之规定，违反国家有关规定，向他人出售或者提供公民个人信息，情节严重的，窃取或者以其他方法非法获取公民个人信息的，构成侵犯公民个人信息罪。违反国家有关规定，将在履行职责或者提供服务过程中获得的公民个人信息，出售或者提供给他人的，从重处罚。

违法犯罪分子利用AI换脸技术实施电信诈骗的基础环节，就是通过非法途径获取大量的个人信息、声音信息、人脸信息，方才具备了换脸的基础素材，例如攻击人脸识别数据库窃取、从第三方非法购买等，完全符合刑法所规定的“窃取或者以其他方法非法获取公民个人信息”的行为要件，无须达到“情节严重”，即可构成侵犯公民个人信息罪。同时，即使某些机构（学校、企业）通过统计学生、员工个人信息或以调查问卷等合法方式获得他人个人信息后，向他人非法出售或提供这些个人信息，情节严重的，符合刑法所规定的“违反国家有关规定，向他人出售或者提供公民个人信息，情节严重”的行为要件，构成侵犯公民个人信息罪。

（三）敲诈勒索罪

根据《刑法》第二百七十四条和我国刑法学通说，以非法占有为目的，以威胁或要挟的方法，强索公私财物，数额较大或多次敲诈勒索的，构成敲诈勒索罪。

案例二中，违法犯罪分子使用被害人脸部信息制作淫秽视频进行敲诈勒索，主观上具有非法占有他人财物的故意和目的，客观上实施了以合成被害人人脸的淫秽视频作为把柄，以向被害人亲戚好友传播该淫秽视频为要挟的手段，使被害人产生恐惧心理而被迫交付财物，违法犯罪分子敲诈勒索数额较大或多次实施敲诈勒索的，符合敲诈勒索罪的犯罪构成要件。

（四）非法获取计算机信息系统数据罪、非法控制计算机信息系统罪

根据《刑法》第二百八十五条第二款规定，违反国家规定，侵入国家事务、国防建设、尖端科学技术领域以外的计算机信息系统或者采用其他技术手段，获取该计算机信息系统中存储、处理或者传输的数据，或者对该计算机信息系统实施非法控制，情节严重的，构成非法获取计算机信息系统数据罪、非法控制计算机信息系统罪。

根据我国刑法学通说，非法获取计算机信息系统数据罪中的“侵入”，是指未经允许而突破、绕过或解除特定计算机系统的安全防护体系，擅自进入该系统的行为。非法控制计算机信息系统罪中的“非法控制”，是指未经允许，违背计算机信息系统合法用户的意愿操作该计算机信息系统或掌握其活动的行为。当前，支付宝、交管12123等APP开通了人脸识别登录或支付的功能。案例三中，违法犯罪分子利用AI软件伪造他人人脸并进行认证来解绑用户账号，已符合刑法所规定的“未经允许而突破、绕过或解除特定计算机系统的安全防护体系，擅自进入该系统”的行为要件，构成非法获取计算机信息系统数据罪。此外，有的违法犯罪分子解绑用户账号后，进一步操作该账号或掌握该账号活动的，还构成非法控制计算机信息系统罪。

如何防范AI换脸型电信诈骗

笔者认为，防范AI换脸型电信诈骗，主要可从以下几个方面着手。

（一）提高个人信息保护意识

首先，违法犯罪分子利用AI换脸技术实施电信诈骗的一大前提，就是通过各种途径获取大量的个人信息，从而“量身定做”诈骗方案。因此，除非必要，不要轻易向他人人提供身份证号码、工作单位、家庭住址、职务、证件等重要信息。此外，不高调炫富，不将身份证照片或号码保存在手机中。在相关网站输入账号、手机号码、查询支付密码等重要信息前要谨慎核实域名真实性，不点击可疑链接，不连接来历不明的无线网络，不扫描非正规渠道获取的二维码，谨防钓鱼陷阱。

其次，违法犯罪分子获取的信息越多，生成的AI视频就越逼真。因此，除非必要，不要轻易提供人脸、指纹、声纹、虹膜等个人生物信息给他人或网络平台，不过度公开或分享含有本人人脸的动图、视频等可能被用于AI训练的素材，接到疑似诈骗电话不要深入沟通，避免对方借此获取音频。

（二）加强AI换脸视频识别能力

遇到陌生人、平常来往较少的“熟人”，以及过去没有视频聊天习惯的“熟人”，发来视频或打来视频电话时，要提高警惕，通过多种方式识别面对的是否为AI换脸视频。常用技巧包括：其一，眨眼判断法。大多数假脸是使用睁眼照片合成的，这样合成的假脸不会眨眼，缺少眨眼是判断一个视频真假的好方法。其二，音画同步法。即在对方说话时，观察语音和对方视频画面中的嘴唇运动是否同步、表情及情绪是否符合。其三，干扰脸部法。AI换脸技术的原理包括人脸跟踪和人脸对齐算法，对原始人脸的姿态和表情进行跟踪，再使得合成人脸与之匹配，通过图像处理技术将二者融合，因此，可以让对方用一张白纸在脸前缓慢晃动，观察是否有模糊的痕迹，是否出现闪烁现象，是否有画面停顿变色等等，还可以让对方展现全身特征，并进行转身等动作，再观察人脸是否出现消失或特殊变化。

（三）培养识别陷阱的能力

网络中充斥着各种各样的陷阱，因此在面对他人的诱惑时，要冷静思考，警惕他人无端“献殷勤”，及时识别他人的陷阱，避免落入陷阱中。例如，与陌生网友聊天时，在不清楚对方目的的前提下，不要轻易答应与其视频聊天，以免对方在视频聊天过程中进行录制，从而采集面部信息、声音信息，并据此制作AI合成视频，进而实施诈骗或敲诈勒索等行为。

（四）资金转账前进行多重验证

在涉及到转账交易等行为时，要通过多重手段验证确认对方是否为本人。例如，在微信视频聊天后，还要再通过电话或当面询问等形式落实具体信息。如需转账，最好向熟人的银行账户转账，避免通过微信等社交软件转账。若对方要求向第三方支付，则应确认收款方身份和个人信息。若暂时无法验证对方身份，还可以将转账到账时间设定为“24小时到账”，以预留处理时间，如有异常及时申请撤销。

此外，要多提醒、告诫身边的亲人、朋友，特别是老人，了解高科技诈骗，提高安全意识和应对能力，在接到电话、视频需要转账时，要多次和亲人、朋友确认，不要贸然转账。