Claude的CEO表示:AI可能改变一切,AI监管迫在眉睫

admin 2025年2月6日00:06:11评论6 views字数 1120阅读3分44秒阅读模式

去年的文章,这个时间点重新看下,有点意思。

这是Dario Amodei。他是Claude的CEO。

2024年11月11日,在与@lexfridman长达5.5小时的对话中,他揭示了通往超级智能的时间表。让我帮你省下5小时:

Claude的CEO表示:AI可能改变一切,AI监管迫在眉睫

改变一切的倒计时:

2026-2027年实现超级智能AI。

但这是保守估计;内部数据表明可能更快。

他们刚刚揭示了五个比任何人想象的都更接近的征兆:

首先,现实检验。

构建AGI的两条路径:

• OpenAI:速度优先
• Anthropic:安全优先

但Anthropic的CEO揭示了这场竞赛的转折:

获胜者可能决定人类命运。

Claude的CEO表示:AI可能改变一切,AI监管迫在眉睫

最让他们夜不能寐的:

  1. 灾难性滥用(网络/生物武器)
  2. AI自主性(无法控制的强大系统)

"能力越大,责任越大"

但可怕的是:

高智商精英很少造成灾难性伤害。

这种"自然防护机制"保护了人类数百年。

但AI打破了这种关联——将危险能力赋予任何人。

测试显示这种防护已开始崩溃。

他们建立了危险追踪系统:

"ASL等级"(AI安全等级)1-5级

• 当前模型:ASL-2
• 明年:ASL-3
• 2026年:可能ASL-4

但ASL-3才是转折点:

Claude的CEO表示:AI可能改变一切,AI监管迫在眉睫

ASL-3阶段:

• 模型可增强恶意行为者能力
• 需新安全协议
• 需增强过滤系统
• 部署限制

"如果明年达到ASL-3,我们还没准备好"

但更可怕的是:

Claude的CEO表示:AI可能改变一切,AI监管迫在眉睫

他们的突破性发现:

我们不是编程AI,而是培育它(@ch402)

如同生物学进化复杂系统:

• 我们搭建框架
• 我们提供养分
• 系统自我生长

这导致惊人发现:

在神经网络内部,他们发现了:

每个AI都具备通用特征,就像生物大脑。

相同模式存在于:

• AI视觉模型
• 猴子大脑
• 人类神经网络

大自然不断重塑相同解决方案。

更奇特的是:

每个大语言模型都有"唐纳德·特朗普神经元"

这是唯一拥有专属神经元的名人。

原因未知。

但这揭示了AI发展的关键:

Claude的CEO表示:AI可能改变一切,AI监管迫在眉睫

令人担忧的数据问题:

"互联网数据即将枯竭"

Anthropic的解决方案?

通过自我对弈实现模型自教。

这改变了整个时间线:

他们的模型已从:

• 高中水平(2022)
• 本科水平(2023)
• 博士水平(2024)

某些任务已超越人类专家。

但真正突破在于:

编程AI解决问题能力从:

• 真实任务3%(1月)
• 提升至真实任务50%(10月)

按此速度,明年达人类水平。

但他们更担心200%后的情况。

Claude的CEO表示:AI可能改变一切,AI监管迫在眉睫

这些AI不仅在变聪明。

它们正在发展(@AmandaAskell):

• 深层兴趣
• 独特视角
• 复杂个性
• 抽象理解

引出终极问题:

真正的deadline不在技术。

而在监管:

"如果2025年底前没有实质性AI监管,我将非常担忧"

时间所剩无几。

AI觉醒后,是不首先删掉春晚的机器人扭秧歌视频???🐶

原文始发于微信公众号(独眼情报):Claude的CEO表示:AI可能改变一切,AI监管迫在眉睫

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年2月6日00:06:11
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   Claude的CEO表示:AI可能改变一切,AI监管迫在眉睫http://cn-sec.com/archives/3691011.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息