服务器之家:专注于服务器技术及软件下载分享
分类导航

服务器资讯|IT/互联网|云计算|区块链|软件资讯|操作系统|手机数码|百科知识|免费资源|头条新闻|

服务器之家 - 新闻资讯 - IT/互联网 - GPT“生成式钓鱼邮件”泛滥,研究人员建议“使用 AI 对付 AI”

GPT“生成式钓鱼邮件”泛滥,研究人员建议“使用 AI 对付 AI”

2023-12-28 11:07未知服务器之家 IT/互联网

IT之家 12 月 27 日消息,安全公司 Abnormal日前发布报告,声称如今“AI钓鱼邮件”愈发泛滥,许多黑客利用各种模型批量创建钓鱼邮件,之后使用脚本群发相关邮件,从而实施“高效率”网络诈骗活动。 该公司研究人员举例 WormGPT、

IT之家 12 月 27 日消息,安全公司 Abnormal日前发布报告,声称如今“AI钓鱼邮件”愈发泛滥,许多黑客利用各种模型批量创建钓鱼邮件,之后使用脚本群发相关邮件,从而实施“高效率”网络诈骗活动。

该公司研究人员举例 WormGPT、FraudGPT 等“专为网络犯罪而生”的恶意AI工具,声称当下黑客已经将生成式 AI 融入到攻击策略中,因此用户也需要“以相同的方式做出反击”,利用AI过滤“可能由AI创建的钓鱼邮件”

GPT“生成式钓鱼邮件”泛滥,研究人员建议“使用 AI 对付 AI”

IT之家查询安全报告得知,传统的钓鱼邮件通常使用相同的域名,正文拥有固定模板格式,整体邮件内容和风格较为统一,因此相当容易被安全软件标记拦截。而黑客利用 AI 生成的钓鱼邮件乍眼看“相当独特”,甚至“每一篇都不一样”,因此难以被传统安全软件乃至人类所察觉。

GPT“生成式钓鱼邮件”泛滥,研究人员建议“使用 AI 对付 AI”

▲ 使用 AI 生成的钓鱼邮件,图源安全公司 Abnormal 发布的报告(下同)

GPT“生成式钓鱼邮件”泛滥,研究人员建议“使用 AI 对付 AI”

据悉,研究人员在报告中介绍了一款名为 Giant Language Model Test Room(GLTR)的AI检测工具,该工具利用了“相关钓鱼邮件内容主要采用‘预测式’调用‘特定高概率单词’”的特点,从而精确识别AI钓鱼邮件

GPT“生成式钓鱼邮件”泛滥,研究人员建议“使用 AI 对付 AI”

GPT“生成式钓鱼邮件”泛滥,研究人员建议“使用 AI 对付 AI”

研究人员声称,即使黑客让 AI“使用更为正式的措辞”创建邮件,但 GLTR 工具依然可以判断邮件中哪些部分“高概率由人工智能生成”。不过报告中同时指出,相关检测手法存在“误杀率”,100% 判断邮件内容是否由 AI 创建“几乎是不可能的”

研究人员同时提到,AI 编写的内容中出现“语法和拼写错误”的概率相对人类反而更少,因此受害者更容易上当,当下“使用AI对付AI”的方案反而更加有效

GPT“生成式钓鱼邮件”泛滥,研究人员建议“使用 AI 对付 AI”

相关阅读:

  • 《黑客展示恶意 AI 工具 FraudGPT,可自动生成多种网络攻击代码》

  • 《黑客展示“没有道德限制”的 WormGPT 聊天机器人:可自动生成木马、钓鱼链接》

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

延伸 · 阅读

精彩推荐