免费聊天机器人ChatGPT于2022年11月30日发布，其在五天内积累了100万用户。如果用户知道如何设置问题，ChatGPT可以就根据问题编写电子邮件、文章、代码和钓鱼电子邮件。黑莓公司的研究发现，英国57%的IT负责人最担心的是，攻击者会利用这些能力制作出更可信、更合法的网络钓鱼邮件，这样，随之而来的便是威胁攻击的复杂性增加了51%，而新的社会工程攻击能力同时也上升了49%。

英国近一半（49%）的IT负责人担心ChatGPT会被用来传播错误的信息，同时ChatGPT还能为经验不足的黑客带来能力提升，比如能够提高技术知识的能力（47%）。此外，88%的受访者表示，政府有责任监管ChatGPT等先进技术。

黑莓首席技术官Shishir Singh评论道：“随着时间的推移，ChatGPT可能会增加其在网络行业的影响力。虽然当下市场上有大量的炒作和危言耸听，但该技术或说该行当确实有着相当可观的未来，因为事实告诉我们，从这种先进技术中的确可以获得很多好处。因此总结，我们只触及到了此技术的表面，但我们也不能忽视其后果。”

2023年1月，安全公司WithSecure的研究人员演示了GPT-3自然语言生成模型是如何帮助恶意活动的，其使得网络钓鱼或商业电子邮件泄露（BEC）骗局等攻击变得更难检测了。研究表明，攻击者不仅可以通过该模型建立语法正确的书面文本，然后将其生成效果一样的“钓鱼诱饵”，同时还可以构建整个电子邮件链，使钓鱼邮件变得更具说服力，甚至还能根据所提供的通信样本，模仿真人的写作风格来生成消息。

研究人员在他们的论文中表示：“这些通过少量输入就能生成多功能的自然语言文本，将不可避免地引起犯罪分子的兴趣。同样，任何利用网络传播骗局、假新闻或错误信息的犯罪分子都会对这样能快速建立语言文本的工具感兴趣。”