如何快速的在本地搭建 deepseek
前言:
最近,无论你是否身处AI行业,朋友圈恐怕都被 DeepSeek 的颠覆性突破"霸屏"了。在巨头们竞相堆砌算力、疯狂烧钱训练万亿参数模型的战场上,这家中国公司却像一匹"性价比黑马",用 1/10的训练成本 实现了对标GPT-4的推理能力——这相当于用经济舱票价完成了头等舱的环球航行。最戏剧性的是资本市场反应:当DeepSeek
论文公布的第二天,英伟达(NVDA)股价应声上涨3.2%,这或许暗示着行业正在重新评估——大模型竞赛的胜负手,可能正在从"暴力美学"转向"工程智慧"。
因为成本降低,也代表着可以用其他平价的卡进行训练,降低不少成本。也预示着中层算力可能在2025
年出现暴涨,更多的产品也许会在2025
出现爆发式的ai
赋能,即使不那么完美,但是也是不错的尝试。
本地搭建
那么话又说回来,为什么要搭建本地的 deepseek
呢?其实很简单,当我没有网络的时候也可以问 ai
。
如果你的工作有保密性质,那么你也不希望你的 ai
助手问的问题被人家窃取吧,本地的另一个好处就是数据不上传。
安装ollama
官方网址:https://ollama.com/
点击 download
选择自己电脑的版本下载就好
安装好后打开 cmd
查看是否已经安装上了
下载模型
1.点击下图的models
2.选择第一个
3.选择适合自己的,推荐7b或者8b,如果只想简单的跑一下就 1.5b
4.命令下载
ollama run deepseek-r1:8b
如上图所示,当下载好后,就可以直接问答,但是为了方便的 ui
交互,接下来安装 ui
交互
安装Anaconda (mac为例)
在终端输入如下代码
mkdir-p ~/miniconda3curl https://repo.anaconda.com/miniconda/Miniconda3-latest-MacOSX-arm64.sh -o ~/miniconda3/miniconda.shbash ~/miniconda3/miniconda.sh -b-u-p ~/miniconda3rm ~/miniconda3/miniconda.sh
爆了一个错 not found:conda
修改配置文件
vim ~/.zshrc
在末尾添加(mac用户根据自己的实际情况来)
# condaexportPATH="$HOME/miniconda3/bin:$PATH"
现在就没问题了
创建虚拟环境
conda create -n open-webui python=3.11
跑完后接着输入
conda init zsh
conda init zsh
是一个用来配置 Conda 环境的命令,目的是让 Conda 与你的 shell(在这个案例中是 zsh
)集成,使得你可以方便地使用 conda activate
和 conda deactivate
等命令。
接着输入
source ~/.zshrc
安装包
pip install open-webui
漫长的等待,如下就代表结束且没出错
启动deepseek
open-webui serve
等待一会儿
访问本地deepseek
访问本地端口8080进入本地搭建的deepseek
搭建完成。
如果想再次启动就需要重新启动虚拟环境和ollama
原文始发于微信公众号(安全视安):如何快速的在本地搭建 deepseek (小白一学就会)
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论