前段时间发生了一起不法分子利用AI换脸实施电信诈骗的事件，受害者接到一位“朋友”的视频通话，随即将自己的420万元转到了这位“朋友”的账户中。如今，利用AI换脸、拟声进行诈骗的新型骗局防不胜防，愈发先进的AI技术倒成为了不法分子诈骗的工具。
一位AI算法工程师称，现在利用AI技术生成照片或视频的成本很低，只需要一张目标照片和一个训练好的AI模型就可以完成。这种技术不是我们的新朋友，业界把这种能生成虚拟视频的深伪技术(deepfake)命名为GAN(生成式对抗网络)。事实上，2017年照片AI换脸走红，其背后的技术就是基于GAN，如今风头正盛的ChatGPT也是基于此。据了解，如今市面上能够支持实时AI换脸的模型使用成本较高，一些不法分子还不具备这样的条件，如果实时换脸的技术被应用于诈骗，那对于普通人来说将更是真假难辨。
AI可以被用于诈骗，也可以被用于反诈骗。在不法分子转移赃款的过程中，AI可以通过大数据分析交易风险，利用多重交叉验证的方式来验证转账人。
AI的高速发展也带来了隐忧。目前，包括马斯克、苹果联合创始人Steve Wozniak在内的等多位行业XXX人物以及AI专家们签署了公开信，表示将暂停AI系统，并在暂停期间共同制定和实施一套先进的人工智能设计和开发的共享安全协议并接受监督和审查。
以上数据、信息均来源市场公开消息，观点仅供参考学习，不构成投资建议，操作风险自担
转载请注明：江苏天鼎资讯网 » 江苏天鼎：技术无罪 但被AI诈骗钻了空子