8小时前马斯克的大模型公司xAI正式开源了大模型Grok-1,包括该模型的权重和网络架构。该模型用友3140亿参数,超越Llama成为目前参数量最大的开源大语言模型。
xAI使用Apache-2.0 许可证开源Grok-1,允许用户自由的使用和修改,可以用于商业用途。
因为参数量大,运行起来需要的硬件资源也很庞大,有人估算可能需要628G GPU的机器,大概8xH100(每个 80GB)就能运行起来。
开源地址:https://github.com/xai-org/grok-1
github上给出了加载和运行Grok-1模型的JAX代码。需要先下载checkpoint,将ckpt-0放到checkpoint中,然后运行
pip install -r requirements.txt
python run.py
可以通过torren客户端下载权重文件
magnet:?xt=urn:btih:5f96d43576e3d386c9ba65b883210a393b68210e&tr=https%3A%2F%2Facademictorrents.com%2Fannounce.php&tr=udp%3A%2F%2Ftracker.coppersurfer.tk%3A6969&tr=udp%3A%2F%2Ftracker.opentrackr.org%3A1337%2Fannounce
原文始发于微信公众号(AI与网安):重磅!马斯克开源大模型Grok-1
免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论