飞牛NAS上部署DeepSeek的详细步骤
一、前期准备
硬件准备:
确保你有一台支持x86架构的电脑或笔记本(如Intel或AMD处理器)。
至少准备一个8GB的U盘用于制作启动盘。
推荐使用SSD作为系统盘(64GB以上),机械硬盘可用于数据存储。
软件准备:
从飞牛NAS官网下载最新的镜像文件。
准备Rufus或BalenaEtcher等工具用于制作启动U盘。
二、安装飞牛NAS
制作启动U盘:
使用Rufus或BalenaEtcher将飞牛NAS镜像文件写入U盘。
启动安装程序:
将制作好的启动U盘插入电脑,重启电脑并进入BIOS/UEFI设置,将U盘设置为启动设备。
启动安装程序后,选择图形化安装(Graphical Install),按照提示进行分区(建议系统分区64GB,Swap分区4GB)。
完成安装:
安装完成后,通过浏览器访问飞牛NAS的管理界面(如http://IP:8000)。
创建管理员账号并设置高强度密码,开启SSH功能。
启用Docker支持:
在“应用中心”启用Docker支持(需确保系统版本≥v0.8.36)。
三、部署DeepSeek
检查前置条件:
确认飞牛NAS系统版本≥v0.8.36,支持Docker。
通过SSH登录NAS后台(需在飞牛管理界面开启SSH功能)。
Docker环境配置:
安装最新版Docker(飞牛默认版本可能过旧),执行以下命令:
curl -fsSL https://get.docker.com | sh
sudo usermod -aG docker $USER
newgrp docker
部署Ollama:
在飞牛Docker中拉取Ollama镜像,执行以下命令:
docker pull ollama/ollama
映射端口11434:11434,并将存储路径绑定到/root/.ollama。
配置与运行DeepSeek模型:
根据硬件性能选择合适的DeepSeek模型版本(如1.5b、7b、14b等)。
运行以下命令启动DeepSeek模型:
ollama run deepseek-r1:<version>
例如,选择7b版本,则命令为:
ollama run deepseek-r1:7b
四、优化与配置
网络与访问:
飞牛NAS默认支持有线网络,如需配置WiFi,可通过SSH使用 nmcli 命令进行配置。
可使用Cpolar或飞牛自带穿透工具实现公网访问。
资源管理:
监控NAS功耗,并根据需要调整Ollama模型存储路径。
安全加固:
定期更新飞牛NAS系统,为Dify和Ollama配置独立用户权限。
可通过Nginx反向代理隐藏端口,并使用HTTPS加密提高安全性。
五、测试与验证
访问测试:
通过浏览器访问DeepSeek模型的前端界面(如http://NAS_IP:3000,具体端口可能因配置而异)。
测试后端API接口,确保返回状态为"ok"。
故障排查:
如遇到数据库连接失败等问题,可检查MySQL容器日志进行排查。
如遇到内存不足等问题,可在docker-compose.yml文件中限制资源使用。
通过以上步骤,你可以在飞牛NAS上成功部署DeepSeek模型,并享受本地AI搜索带来的便捷与高效。
原文始发于微信公众号(内存泄漏):飞牛NAS上部署DeepSeek的详细步骤
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论