重磅!马斯克开源大模型Grok-1

admin 2024年3月18日14:06:30评论32 views字数 615阅读2分3秒阅读模式

8小时前马斯克的大模型公司xAI正式开源了大模型Grok-1,包括该模型的权重和网络架构。该模型用友3140亿参数,超越Llama成为目前参数量最大的开源大语言模型。

xAI使用Apache-2.0 许可证开源Grok-1,允许用户自由的使用和修改,可以用于商业用途

因为参数量大,运行起来需要的硬件资源也很庞大,有人估算可能需要628G GPU的机器,大概8xH100(每个 80GB)就能运行起来。

重磅!马斯克开源大模型Grok-1

开源地址:https://github.com/xai-org/grok-1

重磅!马斯克开源大模型Grok-1

github上给出了加载和运行Grok-1模型的JAX代码。需要先下载checkpoint,将ckpt-0放到checkpoint中,然后运行

pip install -r requirements.txtpython run.py

可以通过torren客户端下载权重文件

magnet:?xt=urn:btih:5f96d43576e3d386c9ba65b883210a393b68210e&tr=https%3A%2F%2Facademictorrents.com%2Fannounce.php&tr=udp%3A%2F%2Ftracker.coppersurfer.tk%3A6969&tr=udp%3A%2F%2Ftracker.opentrackr.org%3A1337%2Fannounce

原文始发于微信公众号(AI与网安):重磅!马斯克开源大模型Grok-1

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2024年3月18日14:06:30
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   重磅!马斯克开源大模型Grok-1https://cn-sec.com/archives/2584788.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息