anthropic | CN-SEC 中文网

人工智能安全

AI的阴暗面：揭露举报模式与勒索企图

人工智能行业正热议最新发布的克劳德4(Claude 4)系列模型。这些模型具备先进的持续推理能力，能够在执行复杂任务时自主暂停，通过搜索引擎或外部工具检索数据，然后无缝恢复操作。持续推理与举报功能这种...

05月25日24 views评论

阅读全文

安全闲碎

关于MCP最值得看的一篇：MCP创造者聊MCP的起源、架构优势和未来

Anthropic 在去年发布的 MCP 协议，今年因为 Manus 和 Agent 的热潮，突然成为了 AI 领域最热门的协议。OpenAI、微软、Google 等大厂也纷纷支持协议，国内阿里云百炼...

05月09日6 views评论

阅读全文

安全新闻

Antropic发布首个AI价值观地图

GoUpSec点评：AI正在形成自己的价值观体系，人们在不了解AI“三观”（是否异化）的情况下将敏感信息和关键任务交其处理，这是极其危险的。最新研究显示，先进大模型的价值观体系远比我们想象得更为复杂。...

04月22日10 views评论

阅读全文

人工智能安全

初识 MCP(Model Context Protocol) 基本概念

背景之前Manus一夜爆火，然后一夜跌下神坛，号称“全球首款通用Agent产品”，但是有个5人小团队，仅花了三个小时，就搞出一个OpenManus项目，和Manus一模一样。这种采用饥饿营销，营销...

04月07日59 views评论

阅读全文

安全新闻

警惕！MCP的安全风险

1. Introduction1.1 MCP是什么Model Context Protocol (MCP)是由Anthropic公司提出的大模型agent交互协议，它像一个USB-C一样让大模型方便使...

04月07日26 views评论

阅读全文

取证分析

什么是MCP？一个可让AI取证智能体（Agent）装上三头六臂的USB接口（内含MCP服务器使用教程、大模型知识科普）

【前言】什么是MCP？、MCP Server? 这个关键词在最近很流行，MCP早在24年11月26日由Anthropic提出并开源。全称为：Model Context Protocol，中文译为：...

04月07日36 views评论

阅读全文

安全新闻

Anthropic公布AI模型防护新方法，可阻止95%的Claude越狱行为

关注我们带你读懂网络安全Anthropic公布了新的AI模型防护方法，在之后约48小时内，无人完全攻破新系统，将赏金提高到了最高2万美元。新方法真这么强？最近，Anthropic安全研究团队「有点忙」...

02月19日47 views评论

阅读全文

安全新闻

研究人员发现新方法防御 AI 模型的通用越狱攻击

关键词人工智能来自Anthropic保障研究团队的研究人员开发了一种新方法，用于保护人工智能模型免受通用越狱攻击。这种创新方法被称为“宪法分类器”，已在数千小时的人类红队测试和合成评估中表现出了显著的...

02月07日23 views评论

阅读全文

安全新闻

Claude的CEO表示：AI可能改变一切，AI监管迫在眉睫

去年的文章，这个时间点重新看下，有点意思。这是Dario Amodei。他是Claude的CEO。2024年11月11日，在与@lexfridman长达5.5小时的对话中，他揭示了通往超级智能的时间表...

02月06日9 views评论

阅读全文

安全新闻

AI Agents越来越火，它可能存在一个严重安全隐患

关注我们带你读懂网络安全未来AI代理和老爷爷的共同点：都可能被网络钓鱼诈骗；如果AI代理真正实现大规模市场吸引力，它们可能会为身份管理市场带来棘手难题。前情回顾·新技术旧安全一句话让大模型聊天助手主动...

01月10日12 views评论

阅读全文

信息情报

Palantir 战略扩展：收购 AI 公司以强化军事间谍活动

要注意，Palantir 已将自己定位为军队的首选 AI 供应商。Palantir 在上周四宣布，将整合 Anthropic 的 Claude 人工智能模型到其为美国情报和军事机构提供的工具集中，这一...

11月11日88 views评论

阅读全文

人工智能安全

国内外AI安全分析

国内的安全厂商目前没有一家正常的，我说的正常是指有预训练的，正儿八经的采集了很多和安全相关的数据来做的，拥有正儿八经的安全研究团队的。国外的LLM安全公司很多，大部分都是在研究jailbreak，因为...

10月16日23 views评论

阅读全文