人工智能安全 - 第 45 | CN-SEC 中文网

人工智能安全

什么样的数据被AI大模型需要？

来源：数据治理架构全文共 2219 个字，建议阅读 10 分钟AI浪潮之下，互联网大厂“内卷”的赛道尤为默契，一致将目标锁定大模型。从百度的文心一言到阿里的通义千问，从腾讯混元到字节豆包……各厂均卷出...

01月25日13 views评论

阅读全文

人工智能安全

KwaiCoder-23B-A4B-v1：以 1/30 的成本训练全尺寸 SOTA 代码续写大模型

导读KwaiCoder-23BA4-v1 是快手 Kwaipilot 团队最新开源的自研代码续写大模型，模型的训练依托于 Kwaipilot 团队提出的一种高效的模型训练方案。通过结合模型剪枝、知识蒸...

01月25日20 views评论

阅读全文

人工智能安全

大模型系列之LLaMA Factory微调学习

关于LLaMA Factory在人工智能技术迅速发展的今天，如何高效地微调和部署大型语言模型（LLM）成为了研究和应用的热点。Llama-Factory 作为一个开源的微调框架，正是在这一背景下应运而...

01月25日39 views评论

阅读全文

人工智能安全

LLM的万能钥匙

2024年2月，新加坡南洋理工大学的研究人员在一项他们称之为“越狱”的实验中成功破解了多个 AI 聊天机器人，包括 ChatGPT、Google Bard 和 Bing Chat。而越狱是利用系统软...

01月24日23 views评论

阅读全文

人工智能安全

DeepSeek+OpenAI Swarm,做Agent的绝配

进入2025，搞Agent，已经是大模型发展的共识。如何开发agent，有各种各样的框架，象Langflow,Dify 这样的低代码框架，开发比较简单，但缺乏灵活性，也有象Langgraph这样的代码...

01月22日298 views评论

阅读全文

人工智能安全

[AI安全论文] (36)C&S22 MPSAutodetect：基于自编码器的恶意Powershell脚本检测模型

2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子，并且已坚持5个月每周7更。该星球目前主营业务为安全零基础答疑、安全技术分享、AI安全技术分享...

01月22日57 views评论

阅读全文

人工智能安全

AI安全 | 大语言模型的安全与隐私调查

大语言模型（LLM）具有语言理解能力、类人文本生成能力、上下文感知能力和强大的问题解决能力，这使其在各个领域（如搜索引擎、客户支持和翻译）都具有重要价值。本文将探讨LLM如何对安全和隐私产生积极影响，...

01月21日35 views评论

阅读全文

人工智能安全

专题解读 | 利用投机采样加速大模型推理

专题解读：利用投机采样加速大模型推理简介在大模型的应用场景中，推理速度是最为影响用户体验的要素之一。针对大模型推理速度的优化有很多工作，本文将聚焦于投机采样技术。目前的大模型通常采用自回归的方式生成文...

01月20日137 views评论

阅读全文

人工智能安全

【AI大模型】OS Copilot测评

前言也是出息了哈哈哈哈哈，来测评一下阿里云的智能助手OS Copilot到底怎么样。之前使用的自然语言大模型主要还是ChatGPT。国内的一些大模型因为是汉语训练的，所以在汉语言处理的方面还是比Cha...

01月17日31 views评论

阅读全文

人工智能安全

【论文速读】| 评估并提高大语言模型生成的安全攻击探测器的鲁棒性

基本信息原文标题：Evaluating and Improving the Robustness of Security Attack Detectors Generated by LLMs原文作者：...

01月16日8 views评论

阅读全文

人工智能安全

浅谈垂类大模型的发展

在科技迅猛发展的今天，基于大模型的AIGC产品如ChatGPT等无疑是最耀眼的明星。AI技术的升级不仅推动了科技的迅猛发展，更深刻地影响了我们的生活和工作方式。这场以大模型为核心的技术革命，正在以前所...

01月15日197 views评论

阅读全文

人工智能安全

大模型开发工作手册详细指南

作者：rhino自 “Prompt工作手册” 发布以来，我持续研究大模型能力的应用及研发方法，结合产业发展，在研发框架和模型应用上有了新的思考，并形成了新的方法论，希望我们的能力不仅仅停留在模型研发的...

01月14日14 views评论

阅读全文