骗子手段大升级，高科技 AI诈骗 正在 全国爆发， 科技公司老板 10分钟 内被骗走 430万。 这究竟是怎么回事呢？

过去的电信诈骗拙劣愚蠢，如今却已防不胜防

有一个嘲讽诈骗的段子是这样说的，我是 秦始皇， 给我打钱，分给你 长生不老药。 明眼人一听就明白，这是 电信诈骗 的骗子们愚蠢的 老方法。 骗子们手段 拙劣又好笑， 但为什么还总会看到有人会 上当受骗 的消息呢？

小编以前也曾遇到过那种一眼就能识破的 低级电信诈骗， 当然 没有上当。 后来，一个朋友给我解释了 电信诈骗里面的门道。 骗子故意用漏洞十分明显的话术去 筛选人群。 我们可能对于他的骗术 不屑一顾， 那是因为我们 不是他的目标人群。

【资料图】

咱们国家 人口数量庞大， 各种类型 的人都有。只要他们的 电话打得足够多， 筛选掉不相信的人之后，余下的就是 目标 了。接着，骗子会 进一步 让你去做 一系列操作， 直到 彻底被骗。 他们玩的就是 概率和心理学。

过去的 电信骗局，特点是 目标人群低端， 前期要进行大量 筛选工作。 而经过科技的发展，目前已经出现了 新型的诈骗方式， 令人完全 防不胜防。

科技公司老板10分钟被骗430万

就在最近， 内蒙古 包头警方通报了一起 AI人工智能诈骗案。 福州某科技公司的郭老板在 10分钟 内，被骗走了 430万元。

4月20日， 郭先生的生意伙伴给他打来 微信视频， 说正在外地竞标，此刻 急需 一笔 430万元 的保证金，而且这笔资金得从公司的 对公账户 中过账。

在视频中看着朋友那 熟悉的脸， 听着 他的声音， 郭先生 深信不疑。 出于对朋友的信任，郭先生 并没有打电话核实， 就在 10分钟 内分两笔转账，把 430万元 汇入了 朋友的账户。

等他汇完款习惯性地 打电话 通知朋友时，才得知 根本没有这回事。 那个借钱的骗子正是利用了 AI智能换脸技术， 佯装成郭先生的 朋友 实施诈骗。

这个骗子并 不是使用陌生号 向郭先生发送好友请求的，而是 直接登录 朋友的 微信账号， 发起的 视频聊天， 轻易就获得了郭先生的 信任。包头 警方接警后联动 福州 警方，迅速启动了 止付机制， 成功 拦截 了 336.84万元 资金。目前仍有 93.16万元 被转移，警方正在 全力追缴。

值得注意的是，郭先生在 微信视频 的画面和 声音 中，都没能发现对方根本不是自己的朋友。换句话说，就是 骗子 事先 盗取 了郭先生朋友的 微信， 根据 微信内的照片 以及 语音中的声纹， 使用 AI合成技术 进行 换脸， 以及替换 声纹。

一切准备妥当，骗子就使用被盗的 微信号， 给郭先生打去了 诈骗视频 电话。毫不夸张地说，这种新型的 高科技诈骗 手段 一骗一个准。 在视频中验证了 长相和声音 之后，还能 辨别出这是骗局 的人，可谓是少之又少。

AI能深度学习，还能深度伪造

从不久前的 ChatGPT 等人工智能技术走红起，让 AI的进化 速度已经达到 令人难以置信 的地步。过去需要 专业设备 才能做成的 换脸和拟声 技术，现在只需准备 几张照片，15 段语音，再给人工智能 几十分钟 的 深度学习 时间，就能完成。

说到使用 AI技术 违法犯罪钻空子，不止是 骗子 会用， 色狼 也是积极的使用者。不久前就曾爆出过一条消息，是说某 女大学生 在不良网站上发现，不少 高清裸体照片 上的女孩，居然有着和自己 一模一样的面容。

原因就是 同校的某个男生， 从 微信朋友圈 中得到了她的 照片， 上传到某 网站， 通过 AI自动换脸 技术，把女孩的脸 替换 到了 不雅照片 上，再上传到不良网站上 牟取不法收入。

类似的消息一出，就引发了 许多人的担忧。 想想看，你日常随手发到 朋友圈 的一张 自拍 就很可能被 盗用。 关键是 伪造出来的图片 还真假难辨，甚至 连亲妈都区分不出来。

这到底是什么 科技与狠活 啊？它并不是简单的 PS抠图， 而是一种 “深度伪造”技术。 不仅能给 静态图片 换脸，还能实现 替换视频 之中的人脸。

举个例子，我们可以用 宋小宝 的脸替换最近爆火的儿歌 “挖呀挖”黄老师 的脸。这样就可以生成一段 宋小宝 声情并茂地唱 “挖呀挖”的视频。同时，黄老师的 表情和姿态 被 完整地保留 了下来。

具体来说， AI深度伪造 技术就是借助AI的 深度学习 技术发展而来的。AI深度学习是一类强大的 人工智能算法， 它可以从 海量数据 中快速地 提取特征。 如今， AI深度学习算法 已被应用在了很多领域，比如图像识别、 语音识别 等。

而把 AI深度学习 用在 图片和视频 领域，就是 “深度伪造” ，也就是 换脸技术。 我们一起来挖掘一下 深度伪造背后的门道。

假设AI得到了 两段 不同的 视频素材， 分别是 罗伯特·唐尼 和 马斯克 二人。 AI算法 会 捕捉和跟踪 这两段素材中的 面部信息， 寻找并学习 源身份 和 目标身份 的面部特征，再完成 表情匹配。 这样就能轻松实现把罗伯特·唐尼的脸 换到马斯克脸上， 并 生成一段新视频。

AI换脸，神乎其神

经过不断的发展进步，AI深度伪造换脸技术 进步神速， 几乎可以做到 天衣无缝。 工程师们开发出了 “生成对抗网络”， 其中包含 两组AI算法。

一组负责 生成 换脸的伪造 视频图片， 叫做 生成器； 另一组负责鉴别真假，叫做 鉴别器。 如果生成器的 假脸 成功 骗过了鉴别器 的眼睛，AI就会自动 改进鉴别器的算法。 如果鉴别器 抓到了生成器假脸的马脚， 就 改进生成器的算法。

生成器和鉴别器 相互制衡， 一方厉害了，另一方就必须找到 破解办法， 通过这种 联合训练 的方式，共同提高各自的性能。最终，生成器就能合成 连鉴别器都无法准确判断 的，以假乱真的 图片、视频。 AI合成技术就这样 不停迭代， 快速提升算法。

深度伪造， 就是通过 软件或网站， 在身份、相貌、语音、行为上，让别人不动声色地 成为自己， 或者让自己 成为别人。 利用AI深度伪造，人们能把 明星的脸 换成自己的脸，轻松实现 演员梦。

深度伪造还能 编辑 现在的 面部照片，显示 老了之后 的样子，这种一眼 50年 的感觉非常神奇。

如今，网上有许多与 深度伪造 相关的算法 已经开源， 任何人只要拥有一台 电脑， 下载几段 视频， 就能在家里随意制作出 以假乱真 的视频了。然而，AI深度伪造技术在正面、善意的背后， 隐藏的是一副丑陋险恶的嘴脸。

不法分子利用AI换脸，实施诈骗

2020年， 在 中国台湾 和日本，不法分子利用 AI深度伪造 技术，制作了大量 色情视频， 进行贩卖和传播。制造的多起案件终被 警方破获。 受害人中有女明星 、网红主播， 甚至 普通人， 她们的脸都被 换成了 色情片 主角。

更可怕的是，你我身边的 每一位普通人 都有可能遇到 类似事件。2022 年，南京一位男士突然 收到自己的裸照， 对方以曝光这些 AI换脸 的伪造图片为要挟， 勒索钱财。

还有，在 大洋彼岸， 有着不少用AI深度伪造技术制作的 假新闻。 为了 激怒 特定人群，引发 社会矛盾， 政治人物被 模仿声音、驱动表情， 并发表 危险言论。

在利益的驱使下，不法分子 不择手段。 AI伪造技术的诞生，方便了不少 不法分子实施犯罪。 技术本 无罪， 但到了不法分子手中，就成了 诈骗钱财 的帮凶。

而这一切的起源，只是因为一个 俄罗斯程序员 觉得开 视频会议无聊， 随手开发的一款软件。实现了在视频中， 把一个人的脸换成任何人的， 奥巴马、拜登，甚至连秦始皇都可以。

难怪 马斯克 会紧急叫停 ChatGPT的继续开发， 因为谁也不敢确定， 人工智能 再继续迭代下去， 会给人类带来什么。

我们也要时刻 保持警惕， 不能轻信任何通过 微信等社交平台 发来的信息，无论是 语音 还是 视频聊天， 一定要再次核实是否是 AI高科技犯罪 手段。

如果有人让你帮忙 转账， 无论是多大的 领导， 多近的 亲人， 都有必要事先 核实， 以免 上当受骗。

科学技术 理应被应用在 正途。 如果不幸受到了 不法分子的侵害， 别忘了 法律的手段 是最后的 胜券。

作者：竟至

校稿：川川