IT之家 12 月 27 日消息,安全公司 Abnormal日前发布报告,声称如今“AI钓鱼邮件”愈发泛滥,许多黑客利用各种模型批量创建钓鱼邮件,之后使用脚本群发相关邮件,从而实施“高效率”网络诈骗活动。
该公司研究人员举例 WormGPT、FraudGPT 等“专为网络犯罪而生”的恶意AI工具,声称当下黑客已经将生成式 AI 融入到攻击策略中,因此用户也需要“以相同的方式做出反击”,利用AI过滤“可能由AI创建的钓鱼邮件”。
IT之家查询安全报告得知,传统的钓鱼邮件通常使用相同的域名,正文拥有固定模板格式,整体邮件内容和风格较为统一,因此相当容易被安全软件标记拦截。而黑客利用 AI 生成的钓鱼邮件乍眼看“相当独特”,甚至“每一篇都不一样”,因此难以被传统安全软件乃至人类所察觉。
据悉,研究人员在报告中介绍了一款名为 Giant Language Model Test Room(GLTR)的AI检测工具,该工具利用了“相关钓鱼邮件内容主要采用‘预测式’调用‘特定高概率单词’”的特点,从而精确识别AI钓鱼邮件。
研究人员声称,即使黑客让 AI“使用更为正式的措辞”创建邮件,但 GLTR 工具依然可以判断邮件中哪些部分“高概率由人工智能生成”。不过报告中同时指出,相关检测手法存在“误杀率”,100% 判断邮件内容是否由 AI 创建“几乎是不可能的”。
研究人员同时提到,AI 编写的内容中出现“语法和拼写错误”的概率相对人类反而更少,因此受害者更容易上当,当下“使用AI对付AI”的方案反而更加有效。
相关阅读:
《黑客展示恶意 AI 工具 FraudGPT,可自动生成多种网络攻击代码》
《黑客展示“没有道德限制”的 WormGPT 聊天机器人:可自动生成木马、钓鱼链接》
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。