AI Agent 2.0 时代 Claude Computer Use 提示词注入攻击演示 模拟真实攻击场景

前面Claude Computer Use刚发布的时候，就同步404 AI安全群里就提到这个估计会通过提示词注入被反制

果不其然今天看到有个国外团队做了尝试：

https://embracethered.com/blog/posts/2024/claude-computer-use-c2-the-zombais-are-coming/

但是总觉得没有还原真实攻击场景，所以让兄弟充个值做个演示 :

前面《大模型时代已经来临！AI Agent 进入2.0时代，然而我发现我错了... 》文里说Computer Use标志着AI Agent 2.0时代来临，这个也意味着提示词攻击有了新的攻击场景！而且可能是影响广泛应用的"拦路虎" ...

另外再次说明下Cursor真好用，最近有更新了，更加丝滑！视频里那个留言板的应用就是Cursor一键生成的，另外Claude的API老限制，而且老贵，这个视频演示一共花了我差不多快2美刀了！

原文始发于微信公众号（黑哥虾撩）：AI Agent 2.0 时代 Claude Computer Use 提示词注入攻击演示 --模拟真实攻击场景