在过去几个月中,模型控制协议(MCP)服务器逐渐受到越来越多的关注,而本周,我们似乎达到了一个关键的转折点。自周日以来,我认识的三个人分别构建了与安全工具交互的 MCP 服务器,其中一位仅用了20分钟...
最新报告提出大模型自身安全框架及大模型赋能安全框架
随着大模型商业化应用和产业化落地加速,大模型技术局限和恶意使用不仅加剧了原有人工智能安全风险,也引入了模型“幻觉”、指令注入攻击、网络攻击平民化等新型风险。同时,大模型在逻辑推理、任务编排等方面的卓越...