■孙伊凡

打开直播间乍一看，卖货主播竟是当红明星。再定睛一看，“明星”其实是利用了人工智能（AI）实时换脸技术的普通主播。当前，“AI换脸”的应用范围越来越广，亦存在滥用之嫌，甚至被不法分子利用，进行换脸、换声诈骗。在这些五花八门的骗术面前，普通消费者该如何分清真假、躲过陷阱呢？

电信网络诈骗犯罪手段迭代翻新极快，不仅有“广撒网”的“盲骗”，还有“量身定制”的“精骗”：西安某公司财务人员张女士接到了“老板”打来的视频电话，从画面和声音判断就是老板本人，张女士按照“老板”的要求转账186万元到指定账户，没想到落入了犯罪分子的圈套之中；方爷爷在公园遛弯接到电话，对方声称是其战友“老乔”，因急病住院需要资金周转，方爷爷信以为真被骗上当。

整治利用AI进行的电信网络诈骗，要用“良法”打败“魔法”，这个“良法”是方法、办法。涉及转账交易等行为时，消费者要细心询问私密信息、多重验证对方身份，不要轻易转账汇款，无论对方怎么变、怎么翻着花样骗，要做到“不听不信不转账”。消费者也要加强个人信息保护意识，谨防信息泄露，不管是在互联网还是社交软件上，都应尽量避免过多暴露自身信息。

这个“良法”，也是法规、法律。为规范AI发展，2023年1月生效的《互联网信息服务深度合成管理规定》，明确了合成数据和技术管理规范。其中提到，深度合成服务提供者对使用其服务生成或编辑的信息内容，应当添加不影响使用的标识。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。近期，也有平台和企业发布了人工智能生成内容的平台规范和行业倡议，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将对违规者严格处罚。

为进一步加强对侵犯公民个人信息和网络诈骗的打击力度，2023年，最高人民法院、最高人民检察院、公安部发布的《关于依法惩治网络暴力违法犯罪的指导意见》明确规定，对利用“深度合成”等生成式人工智能技术发布违法信息的情形予以从重处罚。最高人民法院、最高人民检察院、公安部发布的《关于办理电信网络诈骗等刑事案件适用法律若干问题的意见》规定，对具有包括“造成被害人或其近亲属自杀、死亡或者精神失常等严重后果的”“诈骗残疾人、老年人、未成年人、在校学生、丧失劳动能力人的财物，或者诈骗重病患者及其亲属财物的”在内十种加重情节的犯罪行为，酌情从重处罚。

通过AI技术进行电信网络诈骗，个人信息泄露是根源之一。以借助换声、换脸技术的电信诈骗为例，首先需要一定数量的数据，通过算法进行学习才能最终生成诈骗样本。个人信息保护成为电信网络诈骗治理的关键环节。2022年12月1日正式实施的《中华人民共和国反电信网络诈骗法》同样关切个人信息，第二十五条第一款规定，任何单位和个人不得为他人实施电信网络诈骗活动提供支持或者帮助，如出售、提供个人信息；第二十九条规定，个人信息处理者应当依照《中华人民共和国个人信息保护法》等法律规定，规范个人信息处理，加强个人信息保护，建立个人信息被用于电信网络诈骗的防范机制。

电信网络诈骗的发展离不开技术，技术反制或将成为电信网络诈骗防范的有力武器。同时，个人也需要提高自我保护意识，减少信息披露范围，对信息内容准确甄别真伪，维护自身合法权益。