2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,并且已坚持5个月每周7更。该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享...
AI安全 | AI红队体系思考
随着 AI 热度的不断攀升,人们对 AI 安全性的担忧也日益加剧。在此背景下,红队测试被寄予厚望,被视为解决 AI 安全问题的关键手段之一,但在与朋友交流过程中,发现许多被冠以 “红队评估” ,却存在...
【实操】大语言模型能否按照特定要求撰写情报简报
今天给大家推送一个利用ChatGPT等大语言模型撰写情报简报的模板:It is VITAL for you to complete every step ,in detail . Do not ski...
LLM的万能钥匙
2024年2月,新加坡南洋理工大学的研究人员在一项他们称之为“越狱”的实验中成功破解了多个 AI 聊天机器人,包括 ChatGPT、Google Bard 和 Bing Chat。而越狱是利用系统软...
大模型基础设施安全攻防
先知社区声明:此PPT为演讲嘉宾个人的观点和研究成果,仅用于技术交流,不代表先知社区的立场或观点,如有您在浏览过程中发现任何错误信息或者侵权的问题,可联系我们进行处理,我们将依据相关法律法规和平台规定...
什么样的数据被AI大模型需要?
来源:数据治理架构全文共 2219 个字,建议阅读 10 分钟AI浪潮之下,互联网大厂“内卷”的赛道尤为默契,一致将目标锁定大模型。从百度的文心一言到阿里的通义千问,从腾讯混元到字节豆包……各厂均卷出...
KwaiCoder-23B-A4B-v1:以 1/30 的成本训练全尺寸 SOTA 代码续写大模型
导读KwaiCoder-23BA4-v1 是快手 Kwaipilot 团队最新开源的自研代码续写大模型,模型的训练依托于 Kwaipilot 团队提出的一种高效的模型训练方案。通过结合模型剪枝、知识蒸...
大模型系列之LLaMA Factory微调学习
关于LLaMA Factory在人工智能技术迅速发展的今天,如何高效地微调和部署大型语言模型(LLM)成为了研究和应用的热点。Llama-Factory 作为一个开源的微调框架,正是在这一背景下应运而...
LLM的万能钥匙
2024年2月,新加坡南洋理工大学的研究人员在一项他们称之为“越狱”的实验中成功破解了多个 AI 聊天机器人,包括 ChatGPT、Google Bard 和 Bing Chat。而越狱是利用系统软...
DeepSeek+OpenAI Swarm,做Agent的绝配
进入2025,搞Agent,已经是大模型发展的共识。如何开发agent,有各种各样的框架,象Langflow,Dify 这样的低代码框架,开发比较简单,但缺乏灵活性,也有象Langgraph这样的代码...
[AI安全论文] (36)C&S22 MPSAutodetect:基于自编码器的恶意Powershell脚本检测模型
2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,并且已坚持5个月每周7更。该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享...
AI安全 | 大语言模型的安全与隐私调查
大语言模型(LLM)具有语言理解能力、类人文本生成能力、上下文感知能力和强大的问题解决能力,这使其在各个领域(如搜索引擎、客户支持和翻译)都具有重要价值。本文将探讨LLM如何对安全和隐私产生积极影响,...
72