“当红女星”在直播间卖货，仔细一看，原来是普通主播使用人工智能（AI）实时换脸技术假扮；同事打视频电话来借钱，钱打过去才发现，对方也是“AI换脸”。在人工智能的帮助下，换脸和换声变得越来越逼真，并因此滋生大量互联网安全问题。对此有业内专家支招，必要时要通过回拨对方手机号等额外通信方式核实确认。

　　“AI换脸”骗局频现

　　随着人工智能发展，AI换脸、AI换声等技术不断成熟既带来了乐趣，却导致不少骗局出现。5月24日，中国互联网协会在官网发文提醒：面对利用AI技术的新型骗局，广大公众需提高警惕，加强防范。

　　中国互联网协会表示，近期，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信网络诈骗的案件。不法分子利用AI技术，通过声音合成，伪造成特定人物的声音，通过AI换脸，伪装成特定人物，实时与他人进行视频通话。更换后的面部表情自然，以假乱真，能够冒充他人身份联系被害人，博取被害人信任后实施诈骗。

　　据记者了解，除了AI换脸诈骗有增多趋势，各种利用AI实现侵权的案件有增加趋势。有主播就盗用“明星脸”进行商业带货。很多粉丝在直播中看见自己的偶像直播，马上愉快下单，但其后仔细一看才发现这些都是“换脸”的结果。

　　广东奔犇律师事务所律师刘国华表示，根据《互联网信息服务深度合成管理规定》第六条，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

　　而知名互联网律师赵占领表示，未经明星同意而使用其肖像进行换脸，主要涉及侵犯明星的肖像权，如果还使用了明星的姓名，还构成姓名权侵权。此外赵占领表示，如果AI翻唱还可能涉及侵犯词曲作者的著作权。

　　专家支招：

　　回拨对方手机号核实确认

　　中国互联网协会提醒，在AI时代，文字、声音、图像和视频都有可能是深度合成的。在转账汇款、资金往来这样的典型场景，要通过回拨对方手机号等额外通信方式核实确认，无论对方是谁，不要仅凭单一沟通渠道未经核实就直接转账汇款。要加强个人信息保护意识，防止信息泄露：不轻易提供人脸、指纹等个人生物信息给他人；不要轻易透露自己的身份证、银行卡、验证码等信息；不要贪图方便把身份证、银行卡照片等直接共同存放于手机内。

　　赵占领表示，被“换脸”的明星向平台发出侵权通知之后，那么平台应当及时采取删除、屏蔽、断开链接等措施，否则的平台需要承担连带责任。

　　曾在多家互联网企业担任安全技术顾问的李军向记者表示，“AI换脸”诈骗是目前大众了解较少的诈骗方式，给大众带来较大危害。但这一诈骗模式并非突然出现，早在几年前已被不法分子盯上，相关部门也曾作出安全提醒。未来各互联网平台或需要加强检测音视频真假的能力，但要做到这一步预计还需要一定时间。

　　平台关注AI过度使用问题

　　互联网平台方面也关注到AI过度使用问题，抖音之前发布公告称，平台允许适当使用虚拟人技术，但必须遵循规范。使用虚拟人进行直播，或创建以虚拟人为人设的账号，必须对相应的虚拟人形象在平台注册。虚拟人背后的真人使用者，必须进行实名注册和认证。使用已注册的虚拟人形象进行直播时，必须由真人驱动进行实时互动，不允许完全由人工智能驱动进行互动。

　　据悉，目前抖音直播不允许换脸直播，一旦发现，平台会直接断播。抖音电商目前也在跟进换脸带货的情况，除了断播、限制橱窗小黄车等带货功能，还会对侵权商家进行扣除信用分的处置。对断播后仍换脸直播的账户，将限制其直播权限。抖音通过分析过往诈骗行为，建立了文本、视频、链接、设备等多个数据风险库，并以此上线了100多个风险模型，提前识别、拦截异常行为。

　　提高警惕，谨防诈骗

　　转账汇款、资金往来典型场景：

　　●要通过回拨对方手机号等额外通信方式核实确认，不要仅凭单一沟通渠道未经核实就直接转账汇款。

　　加强个人信息保护意识，防止信息泄露：

　　●不轻易提供人脸、指纹等个人生物信息给他人；

　　●不要轻易透露自己的身份证、银行卡、验证码等信息；

　　●不要贪图方便把身份证、银行卡照片等直接共同存放于手机内。