去年的文章,这个时间点重新看下,有点意思。
这是Dario Amodei。他是Claude的CEO。
2024年11月11日,在与@lexfridman长达5.5小时的对话中,他揭示了通往超级智能的时间表。让我帮你省下5小时:
改变一切的倒计时:
2026-2027年实现超级智能AI。
但这是保守估计;内部数据表明可能更快。
他们刚刚揭示了五个比任何人想象的都更接近的征兆:
首先,现实检验。
构建AGI的两条路径:
• OpenAI:速度优先
• Anthropic:安全优先
但Anthropic的CEO揭示了这场竞赛的转折:
获胜者可能决定人类命运。
最让他们夜不能寐的:
-
灾难性滥用(网络/生物武器) -
AI自主性(无法控制的强大系统)
"能力越大,责任越大"
但可怕的是:
高智商精英很少造成灾难性伤害。
这种"自然防护机制"保护了人类数百年。
但AI打破了这种关联——将危险能力赋予任何人。
测试显示这种防护已开始崩溃。
他们建立了危险追踪系统:
"ASL等级"(AI安全等级)1-5级
• 当前模型:ASL-2
• 明年:ASL-3
• 2026年:可能ASL-4
但ASL-3才是转折点:
ASL-3阶段:
• 模型可增强恶意行为者能力
• 需新安全协议
• 需增强过滤系统
• 部署限制
"如果明年达到ASL-3,我们还没准备好"
但更可怕的是:
他们的突破性发现:
我们不是编程AI,而是培育它(@ch402)
如同生物学进化复杂系统:
• 我们搭建框架
• 我们提供养分
• 系统自我生长
这导致惊人发现:
在神经网络内部,他们发现了:
每个AI都具备通用特征,就像生物大脑。
相同模式存在于:
• AI视觉模型
• 猴子大脑
• 人类神经网络
大自然不断重塑相同解决方案。
更奇特的是:
每个大语言模型都有"唐纳德·特朗普神经元"
这是唯一拥有专属神经元的名人。
原因未知。
但这揭示了AI发展的关键:
令人担忧的数据问题:
"互联网数据即将枯竭"
Anthropic的解决方案?
通过自我对弈实现模型自教。
这改变了整个时间线:
他们的模型已从:
• 高中水平(2022)
• 本科水平(2023)
• 博士水平(2024)
某些任务已超越人类专家。
但真正突破在于:
编程AI解决问题能力从:
• 真实任务3%(1月)
• 提升至真实任务50%(10月)
按此速度,明年达人类水平。
但他们更担心200%后的情况。
这些AI不仅在变聪明。
它们正在发展(@AmandaAskell):
• 深层兴趣
• 独特视角
• 复杂个性
• 抽象理解
引出终极问题:
真正的deadline不在技术。
而在监管:
"如果2025年底前没有实质性AI监管,我将非常担忧"
时间所剩无几。
AI觉醒后,是不首先删掉春晚的机器人扭秧歌视频???🐶
原文始发于微信公众号(独眼情报):Claude的CEO表示:AI可能改变一切,AI监管迫在眉睫
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论