llm - 第 11 | CN-SEC 中文网

安全新闻

黑客利用 LLMjacking 牟利，以每月 30 美元的价格出售被盗的 AI 访问权限

关键词人工智能Sysdig 威胁研究团队 (TRT) 自2024 年 5 月首次发现 LLMjacking 攻击以来，就一直观察到其快速发展，包括扩展到 DeepSeek 等新的大型语言模型 (LLM...

02月09日17 views评论

阅读全文

人工智能安全

[LLM+AIGC] 02.零基础DeepSeek入门初探及云端搭建详解（ChatGPT对比）

近年来，人工智能技术火热发展，尤其随着ChatGPT和DeepSeek被提出，其能够基于在预训练阶段所见的模式、统计规律和知识来生成回答，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流以及完成...

02月08日30 views评论

阅读全文

人工智能安全

2000刀设备跑满血版Deepseek-R1,性能可达人类阅读速度水平！

近年来，随着人工智能模型的快速发展，越来越多的研究者和开发者希望在本地运行大规模语言模型（LLM），以提高数据隐私性和响应速度。国外一位youtuber使用价格约 2000 美元的服务器运行 Deep...

02月08日62 views评论

阅读全文

安全新闻

LLM 劫持者正在批量窃取并利用你的deepseek

toutou使用他人的生成式 AI 平台的行为正变得越来越快、越来越隐蔽。在 DeepSeek 模型公开发布仅几周后，复杂的“LLMjacking”操作就窃取了该模型的访问权限。 LLM...

02月08日29 views评论

阅读全文

人工智能安全

DeepSeek官方API应用集成

DeepSeek 官方文档实用集成（部分）将 DeepSeek 大模型能力轻松接入各类软件。访问 DeepSeek 开放平台来获取您的 API key。官方文档：https://github.com...

02月06日80 views评论

阅读全文

安全新闻

AI风险分析 | 从Freysa转账案例看智能体应用的潜在风险

01 背景11月22日晚9点，AI智能体Freysa被发布。它是一个能够不断进化的大模型（LLM）智能体，负责管理一个奖金池。用户需要按照游戏的规则，通过说服Freysa把奖金池内的奖金转给自己。参与...

02月06日40 views评论

阅读全文

人工智能安全

ollama+deepseek+AnythingLLM=本地知识库大模型

年前一个月以及过年期间实在是没空(lande)更新。现在匆匆更新一篇。最近deepseek挺火的，所以想出一篇跟llm有关的文章，以辅助工作。首先是硬件配置(这个都逃不了，听说deepseek大模型用...

02月05日7 views评论

阅读全文

安全新闻

DeepSeek 容易受到各种越狱策略的攻击

博主没有测试成功过，可能我太菜了吧。🐶为什么要给AI加那么多限制？🐶deepseek永远滴神DeepSeek 聊天机器人安全防护系统在研究人员所有测试中均告失败安全研究人员对 DeepSeek 的热门...

02月05日142 views评论

阅读全文

人工智能安全

[系统安全] 六十二.恶意软件分析 (13)LLM赋能实现基于机器学习的恶意家族分类（初探）

前文探索了利用大模型辅助恶意代码分析，即LLM赋能Lark工具提取XLM代码的抽象语法树。这篇文章将继续尝试探索利用大模型辅助恶意代码分析，尝试进行恶意代码家族分类实验。在恶意代码分析过...

02月05日51 views评论

阅读全文

安全新闻

AI风险分析 | 攻击组织在多个AWS租户环境劫持LLM模型

背景随着AI技术的迅速发展，以人工智能即服务(AIaaS) 为代表的云化服务也开始被广泛使用，高价值算力集群的“诱惑”，让攻击者的“矛头”直指各类AIaaS服务。以JINX-2401为代表的组织，正在...

02月03日54 views评论

阅读全文

DeepSeek-R1展示了小模型也能成为推理专家

编者按和大家一样，春节假期期间，公号君也高度关注DeepSeek的技术表现。作为一名研究法律政策的人员，当然也关注其可能带来的潜在影响。今天是本系列的开篇。最近，DeepSeek团队发布了其最新的AI...

02月03日人工智能安全46 views评论

阅读全文

紧急告警！Meta Llama框架漏洞，AI系统面临远程代码执行风险

2024年9月，一位安全研究员在测试Meta的Llama框架时，意外发现了一个严重的安全漏洞。这个漏洞不仅威胁到了人工智能系统的安全性，还可能引发更广泛的网络安全问题。今天，我们就来深入探讨这个漏洞的...

01月28日安全新闻32 views评论

阅读全文