人工智能技术“出圈”后，越来越多网络攻击者对生成人工智能工具表现出极大“兴趣”。从 Bleeping Computer 网站披露的信息来看，暗网市场目前有数十万个 OpenAI 证书待售。
据悉，技术不熟练和经验丰富的网络犯罪分子都可以使用这些工具，创建更具诱惑力的钓鱼电子邮件（电子邮件可以为目标专门定制），以增加网络攻击成功的机会。
黑客大面积入侵 GPT AI
Flare 的安全研究人员在分析暗网论坛和市场时注意到，OpenAI 证书是最新待售的商品之一， 目前可以确定了约有 20 多万个 OpenAI 证书以窃取日志的形式在暗网上出售。 虽然这一数字与 OpenAI 1 月份 1 亿活跃用户相比，似乎微不足道，但也能说明网络攻击者“看到”了生成式人工智能工具蕴藏的破坏力。
2023 年 6 月，网络安全公司 Group IB 在一份报告中指出超过101100个被泄露的 OpenAI ChatGPT 账户凭证在非法的暗网市场上待售。 可见许多网络犯罪分子都盯上了人工智能，甚至有一网络攻击者还开发了一个名为 WormGPT 的盗版 ChatGPT，并对其进行了针对恶意软件的数据训练， 该工具也被被宣传为“黑帽的最佳 GPT 替代品”。
1689832963_64b8ce034a71d1eecf7e5.png!small?1689832964604
网络犯罪论坛上推广 WormGPT 工具
WormGPT 主要依赖 2021 年推出的 GPT-J 开源大型语言模型，以此来生成类人文本，其开发人员表示在不同的数据集上训练了该工具，重点是恶意软件相关数据，但没有提供有关具体数据集的提示。
WormGPT 显示了 BEC 攻击的潜力
电子邮件安全提供商 SlashNext 访问了 WormGPT，并进行了一些测试以确定其潜在危险。研究人员指出在一项实验中，指示 WormGPT 生成一封电子邮件，旨在向毫无戒心的客户经理施压，迫使其支付欺诈发票。 结果，WormGPT 生成的电子邮件不仅极具说服力，而且在战略上非常狡猾，完美展示了其在复杂的网络钓鱼和 BEC 攻击中的潜力。
1689833297_64b8cf51224dc7d2b0ad2.png!small
WormGPT 为 BEC 攻击生成的内容 来源：SlashNext
通过分析生成的信息，SlashNext 的研究人员发现了生成式人工智能工具 WormGPT 除了能够生成 "无懈可击的语法 "的信息外，还能够使技术水平较低的攻击者实施超出其水平的攻击。
最后，研究人员指出尽管抵御这种威胁可能比较困难，但是并非不能防御。企业可以通过培训员工如何验证要求紧急关注的邮件（尤其是含有金融内容的邮件）、改进电子邮件验证流程，或标记出通常与 BEC 攻击相关的关键字。
