随着生成式人工智能技术的迅猛发展，电信网络诈骗分子开始利用声音合成、AI换脸等手段实施电信网络诈骗。这使得电信网络诈骗由不加区别广撒网的大海捞针式的“随机诈骗”，进一步走向“精准诈骗”。对此该怎么办？

随着科技的不断进步，近年来，电信网络诈骗也花样翻新，令人瞠目。机器学习、人工智能（简称AI）、大数据、人脸识别等热点技术已被犯罪分子用于实施电信网络诈骗，令人防不胜防。

尤其近期ChatGPT等生成式人工智能（Generative Artificial Intelligence）技术迅猛发展，技术迭代的速度超乎想象，也带来了一些新挑战不容忽视。

生成式人工智能系统，可以通过学习现有的数据生成新的数据，从而实现类似人类创造力的功能。生成式人工智能系统与传统的人工智能系统不同。生成式人工智能系统通过各种机器学习方法从数据中学习工件的组件（要素），进而生成新的、原创的、真实的工件（如产品、物品或任务），而不是只能根据输入的数据进行处理和分类，也不是对原有材料的复制。

生成式人工智能系统已被用于新闻媒体、教育等领域，正在快速改变人们的生活方式和工作方式。

但技术始终是一把双刃剑。由于生成式人工智能系统能够实现音乐生成、图像生成、文本生成等新内容的生成，也被电信网络诈骗分子“看上”， 电信网络诈骗分子开始利用声音合成、AI换脸等手段实施电信网络诈骗。

这使得电信网络诈骗由不加区别广撒网的大海捞针式的“随机诈骗”，进一步走向“精准诈骗”，变得更具针对性与指向性，欺骗性、迷惑性也进一步增强。

近日，一起“使用智能AI技术进行电信诈骗的案件”引发了广泛关注。

这起案件的事主为某企业主G先生。某日，G先生的好友突然通过微信视频联系G先生，该好友声称自己的朋友在外地竞标，需要430万元保证金，且需要公对公账户过账，想要借G先生公司的账户走账。

基于对好友的信任，加上已通过视频聊天核实了身份，G先生没有核实钱款是否到账，就分两笔把430万元转到了好友的朋友的银行卡上（事后由于迅速启动止付机制，成功止付拦截336.84万元）。G先生拨打好友电话，才知道自己被骗。骗子通过智能AI换脸和拟声技术，佯装好友对G先生实施了诈骗。

在此案中，骗子并不是使用一个仿真的好友微信添加G先生为好友，而是直接用好友微信发起视频聊天，这也是G先生被骗的原因之一。

目前来看，AI诈骗常用手法有声音合成、AI换脸、转发微信语音以及用AI程序筛选受害人等。

据媒体报道，网上出现公开出售“AI换脸”付费软件的情况。这些换脸软件产品号称能实现“想换什么脸都可以”。而且不只是能够“换脸”。有的软件能够集“换脸”、生成音频和生产视频于一体。此类软件如果被不加节制地滥用，后果不堪设想，而其监管成本和监管难度也大大提高。

对此该如何防范？个人层面而言，传统的防范电信诈骗“三板斧”（不轻信、不透露、不转账）永不过时，仍然是有效的。还应提高个人信息的保护意识，例如不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等。如果非要转账，一定不要急，要“慢下来”，保持平和的心态，不要在急迫的情况下进行转账。在操作转账前要通过多种渠道进行多重验证。

生成式人工智能技术是划时代的发展，面对其所带来的风险和安全隐患，只靠个人努力克服是远远不够的。近期，国家网信办发布了《生成式人工智能服务管理办法（征求意见稿）》，拟对生成式人工智能服务进行监管规范。征求意见稿提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，禁止非法获取、披露、利用个人信息和隐私、商业秘密。