$ curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
$ sudo tar -C /usr -xzf ollama-linux-amd64.tgz
$ ollama serve
$ ollama -v
$ curl -fsSL https://ollama.com/install.sh -o ollama-install.sh
以下是该安装脚本的主要步骤汇总:
与手工安装不同的地方是,自动安装会处理显卡驱动的问题:
其中会设计到使用 lsmod 、modprobe 等 linux kernel module 相关的命令。如果你操作的是和别人共享的服务器,请谨慎对待。因为安装完 ollama 后还会开启 11434 端口,如果是公网GPU服务器,乱开端口有被入侵的风险。
$ cat /proc/cpuinfo && free -g && nvidia-smi
./ollama run deepseek-r1:1.5b
原文始发于微信公众号(生有可恋):AI 本地部署中的 ollama 是什么?
免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论