本地部署DeepSeek R1模型并打造专属的AI知识库

admin 2025年2月5日00:17:02评论65 views字数 1002阅读3分20秒阅读模式
昨天发表了本地部署DeepSeek R1辅助CTF解题详解,许多小伙伴问我怎么部署的让我详细解答下,这里我就详细介绍一下部署过程。提前声明因为笔记本配置有限没有做太多测试,感觉还是在线的deepseek好用,另外模型对笔记本的内存、CPU、磁盘空间等有较高的要求。对于我们这些赛棍,比赛的时候不能联网,还是可以尝试部署下的。
第一步:安装Ollama
 打开ollama官网https://ollama.com/
本地部署DeepSeek R1模型并打造专属的AI知识库
根据您的操作系统下载对应的安装包,下载安装包之后,一直点击下一步安装即可。
第二步:部署Deepseek R1模型
还是在ollama官网上,点击Models,选择deepseek-r1,不同版本对应的体积大小不同,体积越大模型越精细化,根据电脑选择,这里只需要复制命令即可。
本地部署DeepSeek R1模型并打造专属的AI知识库
打开电脑的powershell(管理员)或者cmd,输入命令ollama run deepseek-r1:1.5b进行模型下载,根据自己的电脑配置选择模型(我该换笔记本啦),想满足比赛要求看起来要8b以上版本。
本地部署DeepSeek R1模型并打造专属的AI知识库
安装完毕后可以开始提问
本地部署DeepSeek R1模型并打造专属的AI知识库
第三步:配置可视化界面
Chatbox 是一个可视化的 AI 对话工具,支持与本地部署的模型交互
下载地址:https://chatboxai.app/zh 
下载完安装打开选择Use My Own API Key / Local Model。
本地部署DeepSeek R1模型并打造专属的AI知识库

放开跨域限制要配置下面两个环境变量,这里先将ollama退出(电脑右下角向上小箭头,找到ollama图标右键退出):

OLLAMA_HOST:0.0.0.0

OLLAMA_ORIGINS:*

本地部署DeepSeek R1模型并打造专属的AI知识库
在chatbox点击设置开始配置
本地部署DeepSeek R1模型并打造专属的AI知识库
可以在图形化界面聊天了
本地部署DeepSeek R1模型并打造专属的AI知识库
本地部署DeepSeek R1模型并打造专属的AI知识库
第四步:deepseek知识库搭建

AnythingLLM 由 mintplexlabs 推出,是一款开源全栈应用。它能将多种格式的文档转化为大语言模型的聊天背景知识,支持多用户管理,可自选模型与向量数据库,上手简单。

下载网址:https://anythingllm.com/desktop

安装完毕后进行设置

本地部署DeepSeek R1模型并打造专属的AI知识库
新建工作区,命名为CTF理论知识
本地部署DeepSeek R1模型并打造专属的AI知识库

上传文档后选择Move to Workspace

本地部署DeepSeek R1模型并打造专属的AI知识库

最后选择save and embed即可

本地部署DeepSeek R1模型并打造专属的AI知识库
回到窗口进行提问即可。
如果大家还有更好的方法欢迎评论区留言。
本地部署DeepSeek R1模型并打造专属的AI知识库
好了,今天的分享就到这里结束,如果你觉得这篇文章对你有帮助,关注我,然后点个赞👍

原文始发于微信公众号(小话安全):本地部署DeepSeek R1模型并打造专属的AI知识库

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年2月5日00:17:02
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   本地部署DeepSeek R1模型并打造专属的AI知识库https://cn-sec.com/archives/3698563.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息