2025年底，暗网论坛上出现了一个令人不安的趋势：各种自称"黑暗版ChatGPT"的AI工具正在迅速泛滥。这些工具被设计用来帮助犯罪分子自动生成钓鱼邮件、扫描网络漏洞、甚至编写恶意代码。
WormGPT与FraudGPT
2023年中期首次出现的WormGPT和FraudGPT只是开始。到了2025年，暗网上至少有超过20种不同的恶意AI工具在流通，价格从几十美元到数千美元不等。
这些工具大多基于开源的LLM模型进行微调，去除了内置的安全限制，使其能够无所顾忌地回答任何恶意问题。
防御者的AI军备竞赛
好消息是，网络安全行业也在积极利用AI进行防御。AI驱动的威胁检测系统能够以人类分析师无法企及的速度识别和响应攻击。这正在演变成一场AI对AI的军备竞赛。