如何快速的在本地搭建 deepseek (小白一学就会)

admin 2025年2月6日00:00:43评论26 views字数 1389阅读4分37秒阅读模式

如何快速的在本地搭建 deepseek 

前言:

最近,无论你是否身处AI行业,朋友圈恐怕都被 DeepSeek 的颠覆性突破"霸屏"了。在巨头们竞相堆砌算力、疯狂烧钱训练万亿参数模型的战场上,这家中国公司却像一匹"性价比黑马",用 1/10的训练成本 实现了对标GPT-4的推理能力——这相当于用经济舱票价完成了头等舱的环球航行。最戏剧性的是资本市场反应:当DeepSeek论文公布的第二天,英伟达(NVDA)股价应声上涨3.2%,这或许暗示着行业正在重新评估——大模型竞赛的胜负手,可能正在从"暴力美学"转向"工程智慧"。

如何快速的在本地搭建 deepseek (小白一学就会)

因为成本降低,也代表着可以用其他平价的卡进行训练,降低不少成本。也预示着中层算力可能在2025年出现暴涨,更多的产品也许会在2025 出现爆发式的ai 赋能,即使不那么完美,但是也是不错的尝试。

如何快速的在本地搭建 deepseek (小白一学就会)

本地搭建

那么话又说回来,为什么要搭建本地的 deepseek 呢?其实很简单,当我没有网络的时候也可以问 ai 。

如果你的工作有保密性质,那么你也不希望你的 ai 助手问的问题被人家窃取吧,本地的另一个好处就是数据不上传。

安装ollama

官方网址:https://ollama.com/

如何快速的在本地搭建 deepseek (小白一学就会)

点击 download 选择自己电脑的版本下载就好

如何快速的在本地搭建 deepseek (小白一学就会)

安装好后打开 cmd 查看是否已经安装上了

如何快速的在本地搭建 deepseek (小白一学就会)

下载模型

1.点击下图的models

如何快速的在本地搭建 deepseek (小白一学就会)

2.选择第一个

如何快速的在本地搭建 deepseek (小白一学就会)

3.选择适合自己的,推荐7b或者8b,如果只想简单的跑一下就 1.5b

如何快速的在本地搭建 deepseek (小白一学就会)

4.命令下载

ollama run deepseek-r1:8b
如何快速的在本地搭建 deepseek (小白一学就会)

如上图所示,当下载好后,就可以直接问答,但是为了方便的 ui 交互,接下来安装 ui 交互

安装Anaconda (mac为例)

在终端输入如下代码

mkdir-p ~/miniconda3curl https://repo.anaconda.com/miniconda/Miniconda3-latest-MacOSX-arm64.sh -o ~/miniconda3/miniconda.shbash ~/miniconda3/miniconda.sh -b-u-p ~/miniconda3rm ~/miniconda3/miniconda.sh
如何快速的在本地搭建 deepseek (小白一学就会)

爆了一个错 not found:conda

修改配置文件

vim ~/.zshrc

在末尾添加(mac用户根据自己的实际情况来)

# condaexportPATH="$HOME/miniconda3/bin:$PATH"

现在就没问题了

如何快速的在本地搭建 deepseek (小白一学就会)

创建虚拟环境

conda create -n open-webui python=3.11
如何快速的在本地搭建 deepseek (小白一学就会)

跑完后接着输入

conda init zsh

conda init zsh 是一个用来配置 Conda 环境的命令,目的是让 Conda 与你的 shell(在这个案例中是 zsh)集成,使得你可以方便地使用 conda activate 和 conda deactivate 等命令。

如何快速的在本地搭建 deepseek (小白一学就会)

接着输入

source ~/.zshrc
如何快速的在本地搭建 deepseek (小白一学就会)

安装包

pip install open-webui
如何快速的在本地搭建 deepseek (小白一学就会)

漫长的等待,如下就代表结束且没出错

如何快速的在本地搭建 deepseek (小白一学就会)

启动deepseek

open-webui serve
如何快速的在本地搭建 deepseek (小白一学就会)

等待一会儿

如何快速的在本地搭建 deepseek (小白一学就会)

访问本地deepseek

访问本地端口8080进入本地搭建的deepseek

如何快速的在本地搭建 deepseek (小白一学就会)

搭建完成。

如果想再次启动就需要重新启动虚拟环境和ollama

如何快速的在本地搭建 deepseek (小白一学就会)

原文始发于微信公众号(安全视安):如何快速的在本地搭建 deepseek (小白一学就会)

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年2月6日00:00:43
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   如何快速的在本地搭建 deepseek (小白一学就会)https://cn-sec.com/archives/3691502.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息