GPT“生成式钓鱼邮件”泛滥，研究人员建议“使用 AI 对付 AI”

电脑系统网 12 月 27 日新闻，安全公司 Abnormal 近日发布报告，声称现在“AI 钓鱼邮件越来越猖獗。许多黑客使用各种模型批量创建钓鱼邮件，然后使用剧本发送相关邮件，以实施“高效”的网络欺诈活动。

以公司研究人员为例 WormGPT、FraudGPT 恶意等“为网络犯罪而生” AI 该工具声称黑客现在已经生成了 AI 融入攻击策略，用户也需要“以同样的方式反击” AI 过滤可能是由的 AI 钓鱼邮件的创建。

根据计算机系统网络查询的安全报告，传统的钓鱼邮件通常使用相同的域名，文本具有固定的模板格式，整体邮件内容和风格相对统一，因此很容易被安全软件标记拦截。黑客使用它 AI 乍一看，生成的钓鱼邮件“相当独特”，甚至“每一篇都不一样”，所以传统的安全软件甚至人类都很难察觉到。

▲ 使用 AI 生成的钓鱼邮件、图源 安全公司 Abnormal 发布的报告(下同)

据报道，研究人员在报告中介绍了一个名字 Giant Language Model Test Room（GLTR）的 AI 检测工具采用“相关钓鱼邮件内容主要采用‘预测’调用‘特定高概率单词’”的特点，准确识别 AI 钓鱼邮件。

研究人员声称，即使黑客让步 AI“使用更正式的措辞”创建电子邮件，但是 GLTR 工具仍然可以判断邮件中“高概率由人工智能生成”的哪些部分。但报告还指出，相关检测方法存在“误杀率”，为100% 判断邮件内容是否由 AI 创造“几乎不可能”。

研究人员还提到，AI 与人类相比，编写内容中出现“语法和拼写错误”的概率更小，因此受害者更容易被愚弄。目前，“使用” AI 对付 AI相反，方案更有效。

相关阅读：

黑客表现出恶意 AI 工具 FraudGPT，各种网络攻击代码可以自动生成

黑客展示“没有道德限制” WormGPT 聊天机器人:木马和钓鱼链接可以自动生成

广告声明：文本中包含的外部跳转链接（包括不限于超链接、二维码、密码等形式）用于传递更多信息，节省选择时间。结果仅供参考。计算机系统网络上的所有文章都包含了本声明。