人工智能安全 - 第 46 | CN-SEC 中文网

人工智能安全

如何利用 LLaMA 3 打造Agent智能体应用？

LLaMA 是 Meta（前 Facebook）在 23 年初发布的一个开源的语言模型。它支持多种下游任务，包括文本生成、问答和对话系统，其开源特性使得用户可以根据需求进行定制与优化。优点在于灵活性和...

10月16日26 views评论

阅读全文

人工智能安全

【公益译文】对抗式机器学习攻击与缓解措施分类及术语（上）

全文共23526字，阅读大约需30分钟。执行摘要NIST的可信及负责任人工智能报告旨在制定对抗性机器学习（AML）分类和术语，用以保护AI应用，防止被敌方操控。广义上讲，AI系统分为两类：预测式和生成...

10月16日48 views评论

阅读全文

人工智能安全

【论文速读】|PROMPTFUZZ：利用模糊测试技术对大语言模型中的提示注入进行鲁棒性测试

基本信息原文标题: PROMPTFUZZ: Harnessing Fuzzing Techniques for Robust Testing of Prompt Injection in LLMs原文...

10月16日42 views评论

阅读全文

人工智能安全

Copilot pro比商业版MS365 Copilot差在哪

最近很多小伙伴都用上了copilot，开始感受copilot在生产力工具中发挥的作用与带来的提升。询问比较多的就是商业企业版的Copilot for Microsoft 365和个人家庭版的Copil...

10月16日97 views评论

阅读全文

人工智能安全

国内外AI安全分析

国内的安全厂商目前没有一家正常的，我说的正常是指有预训练的，正儿八经的采集了很多和安全相关的数据来做的，拥有正儿八经的安全研究团队的。国外的LLM安全公司很多，大部分都是在研究jailbreak，因为...

10月16日23 views评论

阅读全文

人工智能安全

大模型之网络安全分析

01安全挑战随着各类大模型与经济社会的深度融合，其技术局限和潜在恶意使用不仅威胁大模型系统自身的安全稳定运行，也可能为使用大模型的各行各业带来非预期安全影响。为尽可能全面应对大模型领域的基础共性安全挑...

10月15日243 views评论

阅读全文

人工智能安全

大模型榜单还能信吗？一个假模型就能登顶排行榜

大模型榜单还能信吗？一个假模型就能登顶排行榜发布时间：2024 年 10 月 09 日Cheating Automatic LLM Benchmarks: Null Models Achieve Hi...

10月14日13 views评论

阅读全文

人工智能安全

如何实现机器学习模型的敏感数据遗忘？

全文共2882字，阅读大约需6分钟。一. 概述随着机器学习方法越来越多地应用于网络安全领域的数据分析中，如果模型无意中从训练数据中捕获了敏感信息，则在一定程度上存在隐私泄露的风险。由于训练数据会长期...

10月13日41 views评论

阅读全文

人工智能安全

威胁狩猎新挑战——LLM时代如何解码黑客攻击

1 大模型攻击预测自网星大模型取得较大进展之后，便将多年积累的攻击数据及目前最主流的攻击手法和案例用在了对于大模型微调上，在模型前段添加P-tuning层解决了输入限制，在模型旁路增加AdaLoRA ...

10月13日83 views评论

阅读全文

人工智能安全

生成式AI（GenAI）模型的发展趋势

在生成式人工智能（GenAI）领域，专利趋势主要集中在三种核心模型：生成对抗网络（GANs）、变分自编码器（VAEs）和扩散模型。其中生成对抗网络（GANs）领域的专利数量是最多的：生成对抗网络（GA...

10月13日53 views评论

阅读全文

人工智能安全

本地运行 Llama 2 简单教程

你也可以在 M1/M2 Mac、Windows、Linux 甚至手机上本地运行 Llama。在本地运行 Llama 2 的不需要互联网连接。在你的终端中执行以下命令：# 下载7B模型 (3.8 GB)...

10月13日47 views评论

阅读全文

如何利用 LLaMA 3 打造Agent智能体应用？

【公益译文】对抗式机器学习攻击与缓解措施分类及术语（上）

【论文速读】|PROMPTFUZZ：利用模糊测试技术对大语言模型中的提示注入进行鲁棒性测试

Copilot pro比商业版MS365 Copilot差在哪

国内外AI安全分析

大模型之网络安全分析

推荐 | 入门人工智能

大模型榜单还能信吗？一个假模型就能登顶排行榜

如何实现机器学习模型的敏感数据遗忘？

威胁狩猎新挑战——LLM时代如何解码黑客攻击

生成式AI（GenAI）模型的发展趋势

本地运行 Llama 2 简单教程

在线咨询

微信