AI 换脸成诈骗新手段，警惕虚拟陷阱守护真实权益
喜欢的关注一下我的账号，谢谢。
嘿，各位小伙伴们！在这个科技飞速发展的时代，我们享受着各种智能技术带来的便利，但你可曾想过，这些先进的技术也可能被不法分子利用，成为威胁我们财产安全甚至生活安宁的 “利器” 呢？今天，就让我们一起深入探讨 AI 换脸技术背后隐藏的诈骗风险。
想象一下，你正沉浸在网络的世界里，与朋友交流、获取信息、进行各种娱乐活动。一切似乎都那么正常，然而，在这看似平静的表面下，却潜藏着巨大的危机。为了保护用户权益，防止账号被盗，很多社交软件都设置了人脸识别的登录验证环节。这本是一道安全的防线，却没想到，这道防线也可能被狡猾的诈骗分子突破。
在湖北黄石，就刚刚破获了一起令人震惊的诈骗案。王先生，一位普通的投资者，偶然进入了某炒股直播间。被直播间的诱惑吸引，王先生添加了推送的社交账号，开始了他的股票投资之旅。一开始，一切都看似顺利，随着投资金额的不断增加，王先生仿佛看到了财富在向他招手。然而，当他想要提现时，噩梦降临了。对方的社交账号因涉嫌诈骗被冻结，资金无法取出。王先生这才意识到自己陷入了一个陷阱。“一直取不出来，这个时候就发现了不对，因为他老是找各种理由让你取不了钱。后来我发现他的社交账号被冻结了。” 王先生的遭遇让人同情，也让我们看到了诈骗分子的可恶。
警方在侦办案件的过程中，发现了一个惊人的事实。涉案社交账号竟然突然解冻并重新登录，这意味着有团伙在帮助诈骗嫌疑人解封账号。经过深入调查，警方发现账号 IP 所在地在河南。在当地警方的配合下，很快抓获了三名嫌疑人。现场查获的 13 台电脑、9 部平板、119 部手机和 80 张电话卡，让人触目惊心。经讯问，高某与许某从 2023 年 9 月底开始在网上贩卖和帮他人解锁社交账号，他们通过 AI 换脸融合的动态视频，帮人解锁一些被平台冻结的交友账号。这种手段实在是让人防不胜防。
湖北省黄石市公安局下陆分局指挥中心民警王楚奇介绍说：“他通过自己在网上购买的一款视频合成软件，按照社交账号要求解封作认证的这些规定动作，利用他自己的人脸和他合成的那个视频，生成的 AI 视频上传到社交账号的后台，来进行认证。” 这个团伙每解锁一个账号收费 15 元至 30 元不等，其中许多账号是因涉嫌诈骗被冻结的账号。他们共解冻了 2107 个账号，从中获利 40 万元。这不仅仅是一个数字，更是无数受害者的血泪。
AI 换脸技术，这个曾经让人惊叹的科技成果，如今却成为了诈骗分子的工具。我们常说 “眼见为实”，但在 AI 时代，这句话似乎不再适用。一些不法分子利用 “AI 换脸” 技术实施诈骗，已成为一种新型骗局。一张 “肖像照片”、一段 “貌似熟人的视频”，都可能被不法分子利用作为诈骗的手段和工具。
在工业和信息化部反诈专班的实验室里，技术人员向我们演示了两种常用的 AI 换脸技术。通过一张事先从网络上公开获取的照片，经过一段时间的模型训练，这张照片就能像真人一样做出各种表情和动作。工业和信息化部反诈工作专班专家李坤解释说：“不法分子首先会通过各种公开的渠道获取受害人的个人肖像或视频，然后利用 AI 技术，对这些照片中的面容特征进行学习，从而模仿眨眼、摇头等动作，实现以假乱真的效果。” 看着照片上的人仿佛活了过来，我们不禁感到一阵寒意。
不仅如此，AI 换脸技术还能实现在即时视频通信状态下的实时换脸。技术人员让记者体验了一下与另一个 “自己” 视频对话的效果。“主要找了一些公开的社交媒体平台，去拉取一些公共的视频。拿了这些数据，整体的训练时间差不多花了 1 天，24 小时达到目前这个效果。如果时间长点的话，我们画面的清晰会有所提升。” 技术人员的话让我们意识到，AI 换脸技术的发展已经到了让人惊叹的地步。而这也意味着，我们面临的风险越来越大。
所有用于 AI 换脸训练的照片和视频都是从网上公开收集的，总共只用了四五张照片和不到五分钟的素材。如果有充足的训练时间，仿真效果会更好。除了面容以外，声音也可以通过同样的技术来仿冒。专家指出，虽然目前 AI 换脸和仿声有一定的技术门槛和较高的实现成本，但如果被不法分子掌握，就可能在即时通信或者社交软件上伪装成他人，开展相应的诈骗活动。
面对这种新型诈骗手段，我们该如何防范呢？有关部门正在开发相关的反制技术和手段。工业和信息化部反诈专班专家李坤表示：“我们正在会同行业内的手机终端企业，将推出 AI 换脸诈骗风险提醒功能。这项功能仅在手机端来本地运行，能够有效保护用户数据不泄露，经过用户授权后，可为用户提供 AI 换脸诈骗风险预警提醒。” 记者在反诈专班的实验室现场体验了正在测试中的 AI 换脸诈骗检测与预警技术。当用 AI 换了脸的技术人员与记者发起视频通话时，测试手机终端提示 “对方疑似假冒身份”。点击检测按钮，经过图像扫描，系统提示 “AI 换脸合成概率 93%”。
AI 换脸主要是使用深度合成技术。《互联网信息服务深度合成管理规定》提出了算法备案、安全评估的手段，要求深度合成服务提供者对深度合成的内容添加显式或隐式水印。中国信通院人工智能所安全与元宇宙部专家陈文弢解释说：“要对生成合成的内容去添加一些水印，这个水印的本质其实就是要一方面去提示公众这个内容是由 AI 生成或者合成的，另一方面也是要追溯它的来源。”
专家提醒，AI 诈骗是隐私信息泄露与诈骗陷阱的结合，要加强对个人隐私的保护，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等，尤其涉及 “朋友”“领导” 等熟人要求转账、汇款的，务必通过多种途径核实确认，不要未经核实随意转账汇款。
在这个充满挑战的时代，我们必须时刻保持警惕，守护好自己的财产和生活。不要让科技的发展成为我们的噩梦，而要让它为我们的生活带来更多的美好。让我们一起行动起来，共同防范 AI 换脸诈骗，守护我们的真实权益。
声明:部分信息来源于网络。刊载此文是出于传播知识传递信息的目的。如有侵权，请及时联系我们，我们将第一时间处理。
