llm - 第 38 | CN-SEC 中文网

安全新闻

AI安全新思路｜一个集LLM安全和隐私于一体的一站式平台

HydroX AI是LLM安全领域的初创公司，最近宣布完成了由Vitalbridge Capital领投、Atom Capital和Miracleplus参投的400万美元天使轮融资。HydroX A...

12月15日112 views评论

阅读全文

安全闲碎

深入剖析开源大模型+Langchain框架智能问答系统性能下降原因

作者：barry大模型（LLM）相关理论研究与工程实践随着 GPT3 的发布，在学术界、工业界大爆发，备受各行各业关注，并涌现出一些赋能行业、促进生产力、生产关系变革的实践。GPT3 [1] 以及斯坦...

12月13日46 views评论

阅读全文

Cyber SOTA Monthly 2nd

不好意思叫weekly了，还是叫Monthly吧。第三条是来自于aws的数据工程方法来做调查的方法，之后会有一篇数据工程平台的架构文章分享。最后是关于最近的一些进展和大家同步一下，最近一个月北京的感冒...

12月12日安全闲碎11 views评论

阅读全文

安全新闻

【资讯】暗网出售台湾监视名单？3GB 数据售价 10 万美元、研究人员发现新型攻击方式，可通过图像和音频操纵大模型

感谢师傅 · 关注我们由于，微信公众号推送机制改变，现在需要设置为星标才能收到推送消息。大家就动动发财小手设置一下呗！啾咪~~~ 1暗网出售台湾监视名单？3GB 数据售价 10 万美元 &n...

12月07日101 views评论

阅读全文

安全新闻

Black Hat 2023公开演示，黑客可通过图像和音频操纵大模型

随着大语言模型（LLM）开始整合多模态功能，攻击者可能会在图像和音频中隐藏恶意指令，利用这些指令操纵AI聊天机器人（例如ChatGPT）背后的LLM对用户提示的响应。在2023年欧洲黑帽大会上表示，研...

12月06日69 views评论

阅读全文

安全新闻

挖出被暴露的1500+APT令牌，破解近千家公司的LLM仓库

聚焦源代码安全，网罗国内外最新资讯！编译：代码卫士专栏·供应链安全数字化时代，软件无处不在。软件如同社会中的“虚拟人”，已经成为支撑社会正常运转的最基本元素之一，软件的安全性问题也正在成为...

12月05日21 views评论

阅读全文

安全文章

攻击Google Bard-从实时注入到数据外泄

声明：文章中涉及的程序(方法)可能带有攻击性，仅供安全研究与教学之用，读者将其信息做其他用途，由用户承担全部法律及连带责任，文章作者不承担任何法律及连带责任。文章首发于个人博客：https://myb...

12月04日32 views评论

阅读全文

安全文章

LLM大模型安全（3）- 模型DOS攻击

本篇为模型DOS攻击，其实与普通的应用DOS攻击一样，更偏向于应用层，而非模型本身OWSAP Top 10分类OWASP Top 10 大型语言模型应用程序项目旨在让开发人员、设计人员、架构师、经理和...

12月04日89 views评论

阅读全文

安全文章

LLM大模型安全（2）-训练数据投毒攻击

本篇为大模型安全第2篇，主要讲述数据投毒攻击来污染大模型，从而造成非预期攻击行为OWSAP Top 10分类OWASP Top 10 大型语言模型应用程序项目旨在让开发人员、设计人员、架构师、经理和组...

12月04日346 views评论

阅读全文

安全新闻

影子AI：新型影子IT威胁载体

“在人工智能比我们更聪明之前，我认为应该鼓励开发它的人投入大量的工作来理解它可能会被控制和滥用的方式。”——杰弗里·辛顿（Geoffrey Hinton），人工智能教父生成式人工智能工具已经为首席信息...

12月03日90 views评论

阅读全文

信息情报

【资料】AI大模型与情报分析

今天给大家推送亚当·C和理查德·卡特撰写的《大型语言模型和情报分析》【导言】本文探讨了大型语言模型（LLM）的最新进展、主要限制和安全风险及其在情报界中的潜在应用。虽然大语言模型现在可以快速有效地完成...

12月02日247 views评论

阅读全文

安全文章

LLM大模型安全（1）-快速注入&不安全输出处理

最近玩了一些各个大厂的大模型对话机器人，感觉还是挺有意思，目前已经到了千模大战，为了不被市场淘汰，响应号召，跟进下大模型安全 OWSAP Top 10分类OWASP...

12月02日184 views评论

阅读全文

在线咨询

微信