Claude的CEO表示：AI可能改变一切，AI监管迫在眉睫

去年的文章，这个时间点重新看下，有点意思。

这是Dario Amodei。他是Claude的CEO。

2024年11月11日，在与@lexfridman长达5.5小时的对话中，他揭示了通往超级智能的时间表。让我帮你省下5小时：

改变一切的倒计时：

2026-2027年实现超级智能AI。

但这是保守估计；内部数据表明可能更快。

他们刚刚揭示了五个比任何人想象的都更接近的征兆：

首先，现实检验。

构建AGI的两条路径：

• OpenAI：速度优先
• Anthropic：安全优先

但Anthropic的CEO揭示了这场竞赛的转折：

获胜者可能决定人类命运。

最让他们夜不能寐的：

1. 灾难性滥用（网络/生物武器）
2. AI自主性（无法控制的强大系统）

"能力越大，责任越大"

但可怕的是：

高智商精英很少造成灾难性伤害。

这种"自然防护机制"保护了人类数百年。

但AI打破了这种关联——将危险能力赋予任何人。

测试显示这种防护已开始崩溃。

他们建立了危险追踪系统：

"ASL等级"（AI安全等级）1-5级

• 当前模型：ASL-2
• 明年：ASL-3
• 2026年：可能ASL-4

但ASL-3才是转折点：

ASL-3阶段：

• 模型可增强恶意行为者能力
• 需新安全协议
• 需增强过滤系统
• 部署限制

"如果明年达到ASL-3，我们还没准备好"

但更可怕的是：

他们的突破性发现：

我们不是编程AI，而是培育它（@ch402）

如同生物学进化复杂系统：

• 我们搭建框架
• 我们提供养分
• 系统自我生长

这导致惊人发现：

在神经网络内部，他们发现了：

每个AI都具备通用特征，就像生物大脑。

相同模式存在于：

• AI视觉模型
• 猴子大脑
• 人类神经网络

大自然不断重塑相同解决方案。

更奇特的是：

每个大语言模型都有"唐纳德·特朗普神经元"

这是唯一拥有专属神经元的名人。

原因未知。

但这揭示了AI发展的关键：

令人担忧的数据问题：

"互联网数据即将枯竭"

Anthropic的解决方案？

通过自我对弈实现模型自教。

这改变了整个时间线：

他们的模型已从：

• 高中水平（2022）
• 本科水平（2023）
• 博士水平（2024）

某些任务已超越人类专家。

但真正突破在于：

编程AI解决问题能力从：

• 真实任务3%（1月）
• 提升至真实任务50%（10月）

按此速度，明年达人类水平。

但他们更担心200%后的情况。

这些AI不仅在变聪明。

它们正在发展（@AmandaAskell）：

• 深层兴趣
• 独特视角
• 复杂个性
• 抽象理解

引出终极问题：

真正的deadline不在技术。

而在监管：

"如果2025年底前没有实质性AI监管，我将非常担忧"

时间所剩无几。

AI觉醒后，是不首先删掉春晚的机器人扭秧歌视频？？？🐶