chatGPT 刚出来没多久的时候,openai 时不时的限制使用频率,当时我想要是能本地部署一个大模型,无限制的使用该多好哇。后来有很多团队/公司陆陆续续在 github 开源了他们自己训练的大模型...
Hugging Face转换服务存在高风险漏洞
安全公司 HiddenLayer 发现 Hugging Face 的 Safetensors 转换服务中存在一个漏洞,攻击者可以利用该漏洞拦截用户上传的 AI 模型并危及供应链。 根据 HiddenL...
AI模型可被劫持,Hugging Face转换服务存在高风险漏洞
网络安全公司HiddenLayer上周三在一份报告中表示,他们发现Hugging Face Safetensors转换工具存在着漏洞,可能被利用来劫持AI模型并发动供应链攻击。 Hugging Fac...
安全大模型应用观察 | 为开发者和软件供应链环节注入智能安全
自大模型以迅雷不及掩耳之势席卷各行各业,其快速地超越了自然语言范畴,发展到了编程语言。一时之间,大模型颠覆软件工程、“杀死”开发者的论调不绝于耳。如今,大模型增强了语言处理能力,使得人机交互更直观,可...
30种经典网安模型介绍(中)
点击上方"蓝字"关注我们吧! 前言 我们在前面一篇文章中依次介绍了PDR模型、P2DR模型、PDRR模型、PDR2A模型、IPDRR模型、APPDRR模型、PADIMEE模型、WPDRRC模型、自适应...
基于LLM大模型的SQL注入检测探索
前言在SQL注入攻击检测领域,通常分为正则关键词规则检测以及基于机器学习算法检测,随着OpenAI带来的大模型快速发展,使用大模型LLM来检测传统漏洞SQL注入也值得探索研究  ...
OWASP发布《AI大模型应用网络安全治理检查清单》
日前,全球开源安全组织OWASP(Open Web Application Security Project)发布了《AI大模型应用网络安全治理检查清单(V1.0)》(以下简称为《检查清单》)。在这份...
Gartner发布2024 年十大战略技术趋势
点击上方蓝字谈思实验室 获取更多汽车网络安全资讯 Gartner于今日发布2024年企业机构需要探索的十大战略技术趋势。Gartner研究副总裁Bart Willemsen表示:“由于技术变革以及社会...
Gartner:2024 年十大战略技术趋势
近日,Gartner发布2024年企业机构需要探索的十大战略技术趋势。主要包括:全民化的生成式人工智能(AI),AI信任、风险和安全管理,AI增强开发,智能应用,增强型互联的劳动力,持续威胁暴露管理,...
30种经典网安模型介绍(上)
点击上方"蓝字"关注我们吧! 前言 网络安全建模可以帮助组织更全面、深入地理解其网络安全环境,从而更有效地预测和对抗潜在的威胁与风险。网络安全工作者也可以借助优秀的网络安全模型和框架的辅助更加直观清晰...
大模型内容安全:敢问路在何方?
人工智能的爆炸发展 揭开了时代序曲的新篇章 大模型赋能千行百业的同时 不安全的内容输出 正持续引发灾难性危害 为LLM输出筑好「安全篱笆」 紧握航向 01 大模型内容安全研究方向 2023年年8月15...
Sora内测账号申请
下面这张图是Sam发的推特,招募Sora红队网络人员进行内测。、给大家讲申请流程之前,废话不多说,我们先解释一下什么是红队。什么是 OpenAI 红队网络?“红队”一词已被用来涵盖人工智能系统的广泛风...
36