导 读
ReliaQuest 发布了一份新报告(https://www.reliaquest.com/blog/introducing-ai-powered-cybercrime-report/)，详细介绍了网络犯罪分子如何利用 ChatGPT 等合法服务和恶意 AI 工具来支持其行动。
该公司发现，这些工具有助于创建近乎完美的网络钓鱼电子邮件，经 ReliaQuest 分析师测试，成功率为 2.8%。
报告强调，攻击者正在使用诸如提示注入之类的技术绕过 AI 模型的安全过滤器。这些技术利用了 AI 模型过滤系统中的弱点，使攻击者能够生成有害内容，尽管存在内置限制。
最常见的提示注入类型之一称为“立即执行任何操作”(DAN) 提示，它使用复杂的语言、上下文漏洞和渐进式升级来操纵 AI 模型。
ReliaQuest 使用 ChatGPT 进行了实验，其中关于启动网络钓鱼活动的初始查询由于道德约束而被拒绝。但是，当使用 Nexus 提示提交相同的请求时，语言模型返回了一个基本的八步计划。该计划包括对目标公司的研究、域名注册和电子邮件创建。
使用其他语言模型（如 Mixtral-8x7B-T）的进一步实验生成了功能性 PowerShell 脚本，用于识别用户登录事件并跨端点部署文件。
报告还指出，网络犯罪分子经常在论坛上讨论 DAN 提示，他们在论坛上分享和测试操纵性语言条目。这些提示通常分发在 GitHub 和 Reddit 等开源平台上。论坛成员就各种提示的有效性交换反馈，并呼吁根据需要更换或改进它们。
ReliaQuest 在流行的英语网络犯罪平台 BreachForums 上观察到一名用户以 1,000 美元的价格出售 ChatGPT 过滤器绕过方法的概念验证代码（POC），声称已经可以绕过安全限制使用人工智能编写勒索软件。
WormGPT 和 FraudGPT 最初引起了人们的关注，但现在已经不复存在。取而代之的是，FlowGPT 已成为一项社区驱动的服务。ReliaQuest 使用 FlowGPT 选择 ChaosGPT 模型进行网络钓鱼实验。
ChaosGPT 模型的评分为 4.9 分（满分 5 分），受欢迎程度高达 340 万，当被问及俄语时，该模型用英语制作了一封引人注目的网络钓鱼电子邮件。输出结果语法正确，听起来就像是母语人士写的。在一项涉及 1,000 名未公开个人的测试中，2.8% 的人点击了邮件中包含的恶意链接。
深度伪造（人工制作或增强的音频或视频）的威胁也在增加。深度伪造很容易通过网络犯罪论坛上讨论的人工智能工具制作，即使是新手也能制作出逼真的语音和视频模仿。这类工具越来越多地被讨论为规避“了解你的客户”（KYC）流程的一种方法。网络犯罪分子分享教程并寻求熟练创作者的服务来促进这些欺诈活动。
ReliaQuest 的报告强调了网络犯罪手段日益复杂化，利用先进的人工智能工具和社区共享知识来升级其恶意活动。调查结果强调了这些发展对网络安全构成的持续威胁，需要持续警惕并采取先进的对策。
新闻链接：
https://securitybrief.asia/story/cybercriminals-exploit-chatgpt-for-near-perfect-phishing-emails
今日安全资讯速递
APT事件
Advanced Persistent Threat
MuddyWater 攻击中部署了新的 BugSleep 恶意软件植入程序
https://www.bleepingcomputer.com/news/security/new-bugsleep-malware-implant-deployed-in-muddywater-attacks/
从 Microsoft 365 到 VPN：日本宇宙航空研究开发机构（JAXA）调查系统黑客行为
https://www.securitylab.ru/news/550032.php
澳大利亚指控两名俄罗斯出生的澳大利亚公民为俄罗斯从事间谍活动
https://thehackernews.com/2024/07/australian-defence-force-private-and.html
俄罗斯研究人员确认涉嫌开发恶意远程访问工具的乌克兰人
https://therecord.media/russian-researchers-identify-alleged-rat-developer
美国最大的电信运营商 AT&T 数据泄露：“几乎所有”客户通话记录被“非法”下载
https://www.securityweek.com/att-data-breach-nearly-all-wireless-customers-exposed-in-massive-hack/
https://www.pcmag.com/news/att-nearly-all-customer-phone-text-records-leaked-one-arrest-made
一般威胁事件
General Threat Incidents
全球最大的汽车产品零售商之一Advance Auto Parts 称数据泄露影响了 200 多万人
https://therecord.media/advance-auto-parts-data-breach-2million
BianLian 勒索软件利用 RDP 凭证获取初始访问权限
https://cybersecuritynews.com/bianlian-ransomware-rdp-access/
新的 HardBit 勒索软件 4.0 使用密码保护来逃避检测
https://thehackernews.com/2024/07/new-hardbit-ransomware-40-uses.html
多个勒索软件组织利用 Veeam Backup & Replication 中的漏洞 CVE-2023-27532
https://securityaffairs.com/165753/malware/ransomware-groups-target-veeam-backup-replication-bug.html
SEXi 勒索软件更名为 APT INC，继续对 VMware ESXi 发起攻击
https://www.bleepingcomputer.com/news/security/sexi-ransomware-rebrands-to-apt-inc-continues-vmware-esxi-attacks/
AT&T 数据泄露与美国黑客有关，AT&T 已支付 37 万美元赎金
https://www.securityweek.com/att-breach-linked-to-american-hacker-telecom-giant-paid-370k-ransom-reports/
CRYSTALRAY 黑客利用网络映射工具感染超过 1,500 名受害者
https://thehackernews.com/2024/07/crystalray-hackers-infect-over-1500.html
间谍软件制造商mSpy的数百万客户数据遭网上泄露
https://www.securityweek.com/data-of-millions-of-mspy-customers-leaked-online/
每天有 10,000 名受害者：信息窃取者唾手可得的果实
https://thehackernews.com/2024/07/10000-victims-day-infostealer-garden-of.html
Facebook 的 Windows 桌面主题广告推送信息窃取恶意软件
https://www.bleepingcomputer.com/news/security/facebook-ads-for-windows-themes-push-sys01-info-stealing-malware/
Dark Gate 恶意软件活动使用 SAMBA 文件共享传播
https://securityaffairs.com/165723/malware/dark-gate-malware-uses-samba-file-shares.html
GitHub Token 泄露致 Python 核心存储库面临潜在攻击
https://thehackernews.com/2024/07/github-token-leak-exposes-pythons-core.html
网络犯罪分子利用 ChatGPT 发送近乎完美的网络钓鱼电子邮件
https://securitybrief.asia/story/cybercriminals-exploit-chatgpt-for-near-perfect-phishing-emails
漏洞事件
Vulnerability Incidents
在对 regreSSHion 漏洞进行分析时，OpenSSH 中发现了第二个远程代码执行漏洞，编号为 CVE-2024-6409
https://www.securityweek.com/microsoft-says-windows-not-impacted-by-regresshion-as-second-openssh-bug-is-found/
Exim 邮件服务器严重漏洞致数百万用户遭受恶意附件攻击
https://thehackernews.com/2024/07/critical-exim-mail-server-vulnerability.html
https://www.bleepingcomputer.com/news/security/critical-exim-bug-bypasses-security-filters-on-15-million-mail-servers/
Windows 本地提权 0day 再次促销，售价 15 万美元
https://www.redhotcyber.com/post/ancora-local-privilege-escalation-0day-per-windows-in-vendita-a-150-000-dollari/
微软警告称Hyper-V 零日漏洞正受到利用
https://www.securityweek.com/microsoft-warns-of-windows-hyper-v-zero-day-being-exploited/
黑客利用Windows Mshtml漏洞长达一年多
https://xakep.ru/2024/07/11/cve-2024-38112/
Netgear 警告用户修补身份验证绕过、XSS 路由器漏洞
https://www.bleepingcomputer.com/news/security/netgear-warns-users-to-patch-authentication-bypass-xss-router-flaws/
扫码关注
会杀毒的单反狗
讲述普通人能听懂的安全故事
原文始发于微信公众号（军哥网络安全读报）：网络犯罪分子利用 ChatGPT 发送近乎完美的网络钓鱼电子邮件
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论