客户热线 : 95540

用户登录 /免费注册

账号

密码 忘记密码?

首页 > 服务中心 > 金融知识宣传教育

风险提示丨关于保护个人信息,防范“AI换脸”诈骗的风险提示

发布日期:2023年09月26日

    伴随着AI深度合成技术的成熟,AI深度合成产品和服务井喷式涌现,不少如“AI换脸”“AI换声”等尚处监管灰色地带的产业野蛮生长,为不法分子提供了可乘之机,成为网络欺诈和身份盗窃等犯罪活动的工具。这种利用AI技术融合他人面孔和声音、制造逼真的合成图像来实施的新型网络诈骗,呈现手段愈发多样、门槛大幅降低、辨别难度加大等特点,常令消费者放松警惕,短时间内造成较大损失。为保护金融消费者合法权益,厦门银保监局提醒广大消费者警惕利用AI技术的新型骗局:

    骗局一:冒充熟人诈骗钱款。在实施犯罪前,不法分子首先分析公众发布在网上的各类信息,根据所要实施的骗术筛选目标人群,通过拨打骚扰电话、盗用聊天软件信息、收集网络社交媒体信息等提取,或是通过非正规的借贷、兼职平台购买注册用户的人声人脸素材。不法分子利用这些影音素材,借助AI声音合成和AI换脸技术,向该目标的亲友发送虚假语音信息,或实时视频通话,用以假乱真的声音、面容博取信任后实施诈骗。

    骗局二:冒充明星虚假宣传。不法分子通过AI换脸技术将现实中的人脸替换成某知名公众人物的脸,并通过社交媒体传播,诱导用户和粉丝点击链接下载恶意软件或输入个人信息,造成消费者信息泄露;或利用该公众人物的社会影响力“直播带货”,诱导不明真相的消费者购买伪劣产品。这些依托AI手法大量生成并在社交媒体上广泛传播的侵权内容,既侵害消费者的公平交易权,也对被冒充公民肖像权、名誉权和隐私权构成巨大威胁。

    骗局三:盗开账户诈骗钱款。不法分子通过冒充公安、司法部门工作人员与消费者联系,通过视频通话盗取消费者面部信息,随后利用AI换脸等技术通过一些APP账户注册人脸识别验证,而后诱骗消费者提供验证码将银行卡与账户绑定,从而将消费者银行卡上资金转移到不法分子控制的账户。

    AI换脸进行视频合成、实施诈骗的行为是利用新技术进行的诈骗,与传统诈骗行为在本质上没有区别,防范方式也万变不离其宗。厦门银保监局呼吁广大消费者牢记以下防范要点,做好个人信息安全第一责任人,谨防AI换脸诈骗:

    一是多方核实,确认身份。认真核实身份信息,对亲友熟人线上发来的消息,若包含转账汇款、提供个人信息、提供短信验证码等涉及重要决策或敏感信息的请求时,应保持高度警惕,通过主动更换渠道如电话、视频提问等方式多重确认对方身份。AI拟声、AI换脸包装作伪后的通话虽能逼真地模仿原始人物的语言和行为,但仍充满破绽,例如眨眼频率过低、眼睛移动不协调、面部表情不自然、唇形不匹配、语句不连贯等。若在与亲友视频语音沟通中发现上述异常行为,应立即警觉。在核实无误后确需转账的情况下,应尽量向银行账户转账,避免通过社交软件转账,有助于进一步核实对方身份、跟进转账信息,一旦发现风险,及时报警求助。

    二是保护信息,拒绝诱惑。提高信息保护意识,特别警惕需要录入个人信息的非正规软件,如走路赚钱、刷单兼职APP等。在开启“定位服务”、输入“身份证号”或是录入“人脸识别信息”指纹识别信息等个人生物信息时一定要慎之又慎;发现APP过度、强制收集个人信息时及时向有关部门投诉举报。此外,妥善设置个人社交账户的浏览权限,不过度公开或分享涉及个人信息的动图、视频等,对不明平台发来的广告、中奖、交友等链接提高警惕,不随意填写个人信息,不轻易向陌生人开启手机屏幕共享。

    三是相互提示,共同预防。对身边的亲友多加提醒,互相交流,共同应对新型AI骗局。对新兴AI技术不了解不敏感的中老年人往往成为AI换脸诈骗的潜在受害者,广大消费者在对身边的这类人群加强常规反诈提示的同时,也要注意揭示不法分子的新手段视频电话眼见、耳听未必属实;勿与陌生人视频通话,个人信息切不可轻易对外提供,共同提高风险防范意识,保护个人信息安全

    来源:国家金融监督管理总局厦门监管局)