DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

admin 2025年2月6日00:05:31评论69 views字数 11067阅读36分53秒阅读模式

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

一. DeepSeek是什么?DeepSeek,是一家在2023年7月17日成立的公司深度求索所开发的大模型名称。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

2024年1月5日,他们正式发布DeepSeek LLM,这是深度求索第一个发布的AI大模型。

2024年5月7日,他们发布DeepSeek-V2,正式打响中国大模型价格战,当时新发布的 DeepSeek-V2 的API价格只有 GPT-4o 的 2.7%,随后一周时间,国产厂商全部跟进,字节、阿里、百度、腾讯全部降价。

2024年12月26日,DeepSeek-V3正式发布且直接开源,而且训练成本仅为557.6万美元,剔除掉Meta、OpenAI等大厂的前期探索成本,大概是别人的三分之一,并且整体模型评测能力媲美闭源模型,震惊海外,自此,东方的神秘力量彻底坐实。

2024年1月20日,全新的推理模型DeepSeek-R1发布,同样发布并开源,效果媲美OpenAI o1,同时API价格仅为OpenAI o1的3.7%,再一次震惊海外,让Meta连夜成立四个研究小组,让全球算力暴跌,英伟达的神话都岌岌可危。

就是这么一家公司,而深度求索的背后,是著名量化私募幻方基金,而基金的盈利模式非常简单,跟管理规模绑定,固定收取管理规模的管理费和收益部分的提成资金,无论基金涨跌都能赚钱,真正的旱涝保收的行业。

  所以,幻方不缺钱,当年赚了钱,在英伟达还没向中国禁售的时候,幻方直接能掏钱搭一个万卡A100集群。

这也让深度求索,让DeepSeek,不以盈利为导向,目标,就是AI的星辰大海。

二. DeepSeek-R1是什么?DeepSeek-R1,就是最近爆火的主角了。也是直接让各路美国AI大佬破防的始作俑者。给奥特曼都在X上开始阴阳了。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

很多人拿DeepSeek-R1和GPT4o比,其实是不对的。

首先,GPT4o是个多模态通用模型,可以理解图片、语音、视频,也可以输出语音。多模态往后做,更像Gemini 2,是一个多模态大一统模型,可以理解一切模态,也可以输出一切模态。

而DeepSeek-R1是一个深度推理模型,对标OpenAI的应该是OpenAI o1,而不是GPT4o,关于OpenAI o1曾经我首发写过一篇文章,可以去看,就不过多赘述了:OpenAI全新发布o1模型 - 我们正式迈入了下一个时代。

现在回头看,当时这个副标题,还是很有前瞻性的。我也让DeepSeek列个了4o和o1的对比表格,大家应该也能一目了然。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

而R1,可以直接类比o1,两者在跑分上,几乎相同。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

并且已经开源。

HuggingFace 链接:https://huggingface.co/deepseek-ai

论文链接:https://github.com/deepseek-ai/DeepSeek-R1/blob/main/DeepSeek_R1.pdf

三. DeepSeek-R1在哪用?

DeepSeek-R1除了面向开发者的开源模型和API,也有面向普通用户的C端版本。

网页版:https://chat.deepseek.com/

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

当你勾上深度思考功能,此时就是使用R1模型,当你不勾的时候,使用的是类GPT4o的v3模型。

当然他们也有APP版本,你直接在应用商店搜索DeepSeek就好。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

跟网页端交互基本一致。目前免费,就是用户增速过快,所以偶尔会有崩溃断网连不上问题,你可以在这个地方,来看DeepSeek的服务器状态。

https://status.deepseek.com/

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

四. 应该怎么跟R1对话?

首先,我想明确一点的是,DeepSeek-R1是推理模型,不是通用模型。

在几个月前OpenAI o1刚刚发布时,我用通用模型的方式跟o1对话,写了一堆的结构化提示词,得到了极差的效果,那时候我一度觉得这玩意是个垃圾。

而后面,我才发现,其实是我自己的思维惯性,这玩意跟4o不一样,这不是一个很傻的聊天模型。

这是一个能力很牛逼但不知道你想要什么的真实员工。

    今年1月也有一篇海外的文章很火,叫《o1 isn’t a chat model (and that’s the point)》。跟我是完全一样的看法。所以,有一个点一定要注意,明确你的目标,而不是给模型任务。

例如我们以前在写prompt的时候,总是会写你是一个XXX,现在我的任务是XXX,你要按照1、2、3步来给我执行balabala。但是现在,请抛弃那些写法。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

把你的一切,交给AI,让它去进行自我推理,效果会更好。AI会自动填上那些你没说出口的话,会给你想出可能更好的解决方案。

有一个不得不承认的事实是,我是一个很普通的普通人,而像我一样的很多普通人们,现在大概率是不如AI博学和聪明的。

所以,不如说出你的目标,把他当作一个很牛逼的员工,让他,放手去做。比如这个case。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

只需要表达你是谁+你的目标就OK。特别是你是谁这个背景信息,非常非常的有用。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

所以请抛弃掉一起过往所学习的结构化框架,如果真的需要有一个万能Prompt模板,那就是:

你是谁 + 背景信息 + 你的目标背景信息给的越多越能让R1理解你的需求帮助你更好的完成任务。

时刻把他当成:

这是一个能力很牛逼但不知道你想要什么的员工。

最牛逼的提示词技巧,就是没有技巧。

大道至简,重剑无锋。

所以,千言万语汇聚成一句话就是:用人话清晰的表达出你的需求,这就够了。

五. R1输出的内容看不懂?

很多人在用“说人话”这三个字,来表达推理模型和通用模型不一样,这其实有点奇怪。

不过从实用角度来说,这确实是一个能让普通人看懂AI输出专业内容的小技巧。

不过这并不是一个推理模型才有的技巧,因为一直就存在,本质上就是对方不知道你是谁,不知道你的理解能力和你的学识能力是什么水平。

所以我也想分享一个我自己这两年跟AI对话时用的最多的一个小技巧,也是我自己最常用的“人话”prompt:

我是一个小学生。

当你在跟AI对话时,把这句话往前一摆,自降身位,你就会发现,一切都通了,一切都能看的懂了。

比如我想让R1给我解释一下什么叫大模型中的RL用法。

如果不用这句话的话,就会得到这样的解释。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

我相信你看到一定脑壳疼。你就是不懂才需要让它给你解释,结果解释了个这。

但是,如果把那个神句加上呢?

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

反正我是一下子能看了,舒服了多了,可能我就真的是个小学生的水平。。。

当然如果你想稍微进阶一点,就可以说,我是一个初中生,或者,我是一个高中生,一点一点的可控升级。

我用了两年,非常好用,推荐给大家。

六. R1的写作很强吗?

R1除了能非常好的做常规推理模型都能做的数学题、代码等等,这次有一个非常非常特别的点是:

中文写作能力强到爆炸。

过往,大家都说,在写作能力上几乎所有的大模型都是众生平等的一坨屎,唯有Claude超出了一坨之外,独立于三界之上。

而这一次,DeepSeek-R1在中文写作和文笔上,已经是独一档的领先了。

而且对于文风的模拟,效果极佳。

比如我非常非常喜欢知乎上一个大V叫大师兄朱炫的文笔。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

我甚至都不需要跟DeepSeek-R1说朱炫的文笔是什么样的,直接就说一句话:

以知乎大V朱炫的文风,来锐评一下爱情的求而不得,告诉大家,总会有人在等你。

来给大家看看成文:

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

虽然达不到朱炫那百分百的功力,达不到他那种多智而近妖的文笔,但是已经非常非常强了。

毕竟,只需要一句话而已。

再写一首,李煜风格的诗词。

“以李煜的诗词风格,来写一首我回老家没有朋友玩的感觉”

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

《虞美人·归乡感怀》

故园旧巷行人少,空有榆钱老。

秋千院落锁苍苔,偶见邻家黄犬过阶来。

重游往日嬉春处,蛛网斜阳驻。

笑谈声远柳风凉,唯剩一庭明月照空廊。

对仗、押韵全都到位了。

真的,非常的强。

七. R1可以联网吗?

众人皆知推理模型好,但是推理模型,几乎都不联网。

典型如OpenAI o1。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

这给我带来了非常的多的困扰,要知道,OpenAI o1的知识库还是24年,很多东西都不知道,更别提一些所谓的实事了,你想用它来梳理分析一些最近的数据,比如美元指数、比如最近的财报等等,它完全不知道,甚至还传不了PDF,就非常的der比。

而DeepSeek,是为数不多的,推理+联网的。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

我们来试试这句话:我想用鲁迅的文风写一篇2000字的公众号文章,分析一下2025春节档哪几部电影能爆,不要结构化。

DeepSeek去网上搜了50个网页,然后思考了半天。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

用鲁迅的文风,成了一篇文。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化
DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化
DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

效果非常好。

虽然整体测下来,在联网资料的RAG层面还有一些问题和

DeepSeek最近火得连OpenAI都忍不住偷偷看了一眼,心里嘀咕:“这家伙是从哪儿冒出来的?”要知道,OpenAI可是AI领域的“老大哥”,一直稳坐行业第一的位置。结果DeepSeek一出现,直接让硅谷的大佬们集体揉了揉眼睛,怀疑自己是不是看错了。 

    美国各界的反应更是让人哭笑不得。科技圈的大佬们一边喝着咖啡,一边在推特上疯狂刷屏:“DeepSeek到底是什么?为什么它的模型比我家的智能冰箱还聪明?”投资人们则忙得不可开交,一边疯狂给DeepSeek投钱,一边心里嘀咕:“这玩意儿会不会是下一个OpenAI?我可不能再错过一次机会了。”甚至连普通网友也加入了讨论:“DeepSeek是不是偷偷学了什么‘东方神秘力量’?怎么感觉它比ChatGPT还能聊。”

最后,连马斯克都忍不住发了一条推特:“DeepSeek有点意思……要不我们也搞个DeepSeek 5.0?”网友们纷纷调侃:“马斯克,你还是先把火箭发射成功再说吧!”

文章中提到的示例代码,如果你觉得有用,别忘了点赞支持哦!

近年来,人工智能的热度持续飙升,几乎成为科技、商业、学术和社会讨论的核心话题。AI也逐渐渗透到我们生活的方方面面,无处不在。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

度娘AI搜索

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

等等,现在很多很多产品都或多或少融入了AI技术,可以说,没有AI都觉得落伍了!

AI的前景充满了机遇和挑战。它将成为推动社会进步的核心技术,彻底改变我们的工作、生活和思维方式。然而,AI的发展也需要在技术、伦理、法律和社会层面找到平衡,确保它能为全人类带来福祉。

未来,AI不仅仅是工具,更是人类智慧的延伸,帮助我们解决更多复杂问题,创造更美好的世界。

    DeepSeek都这么火了,我们也来试试用它搭建自己的ChatGPT吧!为什么需要搭建私有AI?想象一下,AI就像一位超级助手,能帮你处理各种任务。但如果你把所有秘密都告诉一个“公共助手”,难免会担心隐私泄露。这就是为什么越来越多的企业和个人选择搭建私有AI——它就像一位专属的私人助理,只为你服务,完全受你控制。私有AI的最大好处是数据安全。你可以把所有敏感信息,比如客户数据、商业机密,放心交给它,完全不用担心泄露给第三方。

    同时,私有AI还能根据你的需求量身定制,无论是行业特性还是具体任务,它都能完美适配。此外,私有AI运行在本地或私有云上,响应更快、更稳定,不会受网络波动或公有云资源限制的影响。简单来说,私有AI就像你的“私人管家”,既安全又贴心,还能随叫随到,完全不用担心隐私问题!

前期准备

    既然DeepSeek这么火那就是用它的模型来作为我们私有AI的核心数据源吧因为DeepSeek是国内的所以对于国内用户来一系列的操作步骤都非常友好赶紧上车

注册

打开DeepSeek的官网点击页面上的API接入就会跳转到登录页面

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

    新用户需要注册你可以使用微信扫码登录但都需要绑定手机号

申请API KEY

   调用大模型最关键的就是有对应的令牌先创建一个令牌名字最好有一定的寓意避免长时间后忘记。创建后会生成对应的KEY一定要将其复制保存到自己的资料库里后面在控制台是无法查看的

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

充值

    DeepSeek目前是给了500万token的免费使用具体参考官网免费使用有时效性大概1个月但也足够我们玩了。后面如果你还想要使用的话就需要充值了

充值对国内用户很友好也比较简单但需要实名认证;简单填写姓名和ID Card就可以了

下面是我充值10元后新增500万tokens

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

以上工作都准备好后就可以开始对接大模型了这里我们使用NodeJS搭建应用

NodeJS搭建

    调用大模型非常简单;官方给了一段简单的使用代码可以查看 DeepSeek API Docs

这里我们使用NodeJS版本的代码核心还是使用 OpenAI Node SDK 来作为基础载体然后根据提供的模型地址来响应数据

安装openai依赖

➜ npm install openai

AI初体验

将官网的代码示例复制到对应的文件中,这里创建main.js:

import OpenAI from "openai"; import { CHAT_CONFIG } from "./config.js"; const openai = new OpenAI({ ...CHAT_CONFIG, baseURL: 'https://api.deepseek.com',  }); async function main() { const completion = await openai.chat.completions.create({ messages: [{ role: "user", content: "中国有多少个省份" }], model: "deepseek-chat", }); console.log(completion.choices[0].message.content); } main();

apiKey 就是你在DeepSeek控制台创建的API KEY令牌你可能已经把它保存起来了复制一份到这里就行

上面我们简单的调整下role为user和提问的内容现在使用node运行当前文件

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

成功了‼️

不过上面的方式有一个明显的缺陷就是当回复的内容很长时会等很久后然后一次性展示出来。原因是因为接受的是文本类型字符串若使用流就可以通过管道不断打印请求的结果

流式响应

    使用流式响应也非常的简单这里推荐读者直接查看 OpenAI 文档因为是基于它的SDK数据接口规范来返回的所以免去了不同模型厂商接口调用的繁琐

我们来进行简单的改造

// 省略... async function main() { const completion = await openai.chat.completions.create({ messages: [{ role: "user", content: "中国有多少个省份" }], model: "deepseek-chat", stream: true, }); // 使用流的方式写入stdout管道中 for await (const chunk of completion) { process.stdout.write(chunk.choices[0]?.delta?.content || ""); } } main();

运行后再来查看效果

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

可以看出效果已经好多了‼️

这样的方式在每次运行完后就会自动退出对于ChatGPT聊天还是不太友好基于此来稍微改造下让它变成可以不断对话的GPT

import readline from "readline"; import OpenAI from "openai"; import { CHAT_CONFIG } from "./config.js"; const openai = new OpenAI({ ...CHAT_CONFIG, }); async function generateMessage(inputText) { const completion = await openai.chat.completions.create({ messages: [{ role: "user", content: inputText }], model: "deepseek-chat", stream: true, }); for await (const chunk of completion) { process.stdout.write(chunk.choices[0]?.delta?.content || ""); } console.log("nn以上是我的回答,请合理参考,祝您生活愉快!nn") } function bootstrap() { const rl = readline.createInterface({ input: process.stdin, output: process.stdout, }); console.log("我是一个智能助手,你可以向我提问任何问题,我将尽力回答。🌈🌈nn") rl.on("line", async (input) => {  if (input === "q") { rl.close(); return; } generateMessage(input); }); rl.on("close", () => { console.log("nBye!"); process.exit(0); }); } try { bootstrap(); } catch (error) { console.error(error); process.exit(1); }

    这里使用NodeJS提供的 readline 模块用来和终端进行交互用户每输入内容回车后程序就可以拿到用户的输入内容然后根据内容请求大模型这是整体思路

来看看效果

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

    到这里就可以完全模拟ChatGPT在终端进行交互式聊天了而且输出的都是markdown格式内容;这对于程序员做笔记来说非常友好相反对于大多数普通人来说这种格式还是不太友好并且使用的方式比较低端了

接下来我们就通过一些开源工具搭建一款高可用的AI多模型应用

ChatGPT大众化

     面向大众化最关键的还是更友好的客户端界面就像ChatGPT那样以对话框的形式使用并且还可以支持查看历史消息等等除此之外可以通过配置直接调用我们自己付费过的大模型是不是想着都觉得很爽

如果全部由自己手写那真的是太麻烦了幸运的是社区有很多开源的项目我们可以使用比如FastGPT、 lobe-chat、MaxKB 等等感谢强大社区感谢强大的开源‼️ 本文选择 FastGPT 来搭建整体的GPT

    FastGPT 是一个基于 OpenAI GPT 模型的高效、轻量级实现旨在为用户提供快速、低成本的自然语言处理NLP解决方案。它通常用于生成文本、对话系统、内容创作等场景支持多模型管理、内容生成、知识库管理、网页爬取等等。读者可以去官网查看更多它的信息

OrbStack

     为了方便起见这里使用docker来安装FastGPT读者机器上必须要有docker相关环境若没有推荐MacOS用户使                 用 OrbStack 客户端它相比官方的Docker Desktop轻量很多并且开源免费人一直在使用。这里对docker的安装和配置就不多说了可以前往阅读往期文章 Docker安装与配置

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

FastGPT配置与启动

首先就是下载官方的配置文件(查看FastGPT官方部署文档)直接执行以下命令

 ➜ curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json  ➜ curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/files/docker/docker-compose-pgvector.yml

    此过程可能需要科读者也可以通过浏览器打开后下载到本地

执行以后会生成两个文件config.json(查看config.json详细说明)主要用来配置使用到的模型和向量库等docker-compose.yml则是整个FastGPT运行的服务集合里面包含前台界面、后台、网关、相关数据库等等

两个配置文件都可以进行定制化修改比如账号密码、大模型等等这里建议先啥都不用改直接启动服务

➜ docker compose up -d

   初次运行会拉取对应的镜像文件注意网络通畅。运行成功后可以在Orbstack中看到启动的对应容器服务

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

OneAPI管理模型渠道

    启动成功后使用浏览器打开 IP:3001 OneAPI添加合适的AI模型渠道(OneAPI官方教程)

首次进去登录账号密码为root/123456会提示你修改账号密码

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

然后点击顶部导航栏的渠道这里我们要添加的渠道为DeepSeek选择对应的类型后你可以查看OneAPI支持的渠道在模型那里会自动填充渠道默认的模型类别最后输入渠道对应的令牌(API KEY)然后保存

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

保存成功后可以简单的测试下是否跑的通;点击测试按钮查看效果

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

在FastGPT(也就是聊天界面)中请求时会带着对应的模型名称请求到OneAPI然后请求被OneAPI转发到对应的模型接口。这里是OneAPI官方的架构解释图:

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

需要注意的是FastGPT会根据config.json配置的模型在前台显示可用的模型默认有几个模型读者可以直接拷贝一个配置将provider、model、name改了就行。我们来添加下DeepSeek所需的模型也就是和渠道那里配置的模型对应

{ "llmModels": [ { "provider": "DeepSeek", "model": "deepseek-chat", "name": "deepseek-chat", "maxContext": 125000, "maxResponse": 32000, "quoteMaxToken": 120000, "maxTemperature": 1.2, "charsPointsPrice": 0, "censor": false, "vision": false, "datasetProcess": true, "usedInClassify": true, "usedInExtractFields": true, "usedInToolCall": true, "usedInQueryExtension": true, "toolChoice": false, "functionCall": false, "customCQPrompt": "", "customExtractPrompt": "", "defaultSystemChatPrompt": "", "defaultConfig": { "temperature": 1, "max_tokens": null, "stream": false } }, { "provider": "DeepSeek", "model": "deepseek-coder", "name": "deepseek-coder", } ] }

以上配置文件并不完整,省略了其他配置只是增加了deepseek-coder和deepseek-chat两个模型配置请根据自己的config.json配置文件调整

调整配置后需要重启整体服务

➜ docker compose down ➜ docker compose up -d

FastGPT添加模型助手

模型渠道配置管理好以后我们再打开浏览器输入 IP:3000 进入FastGPT前台界面初次进去初始账号密码为 root/1234

打开 工作台 点击右上角的 新建/简易应用

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

然后根据提示填入模型助手应用的名字、描述模型选择我们的DeepSeek相关的模型名字会和config.json里的配置信息是一致的下拉选项即配置文件中的信息其他的如开场白、工具调用都可以适当添加

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

最后点击右上角的保存并发布就可以了快去试试对话吧

开始对话

点击左侧聊天进入对话界面,就可以看到刚刚创建的模型助手了

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

现在我们可以提个问题输入请写一篇青椒炒蛋教程

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

这是回答的截图效果

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

不过上面回答也是以字符串的形式一次性展现如果回复的内容过长就会等很长时间体验感比较差

流式响应

使用流式响应也比较简单需要修改config.json配置文件

找到对应的模型配置位置修改以下配置

{  "llmModels": [ { "provider": "DeepSeek", "model": "deepseek-chat", "name": "deepseek-chat",  "defaultConfig": { "temperature": 1, "max_tokens": null, "stream": true  } } ] }

修改后然后重启所有服务

➜ docker compose down ➜ docker compose up -d

还是上面那个例子我们再问一次:请写一篇青椒炒蛋教程

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

达到预期的效果‼️

除此之外还有很多配置项可以设置点这里查看 config配置说明

搭建知识库

FastGPT也支持知识库管理用户可以将一些资料作为模型参考的依据这也是私有化GPT最重要的环节这样相较于市面上的GPT我们就有了自己专属的知识库模型体系了。上传的知识库FastGPT会自己去训练建立索引并且支持多种形式、格式的知识库资源如文本、表格、网址、web站点等等强大到足够我们使用了

这里本人打算创建一个自己博客的知识库这样大模型就会首先参考我的博客文章。本来是可以使用web站点这类知识库的但他是付费功能

进入左侧 知识库 菜单点击右上角 新建/通用知识库

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

创建进入后点击 新建/导入然后选择 文本录入

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

之后可以上传本地文件也可以提供网页链接由于作者有自己的在线博客这里我选择网页链接

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

然后输入指定文章的链接这里我输入的是 「原型、原型链与继承 https://blog.usword.cn/frontend/js/proto-inherit.html」点击保存后就可以看到刚刚添加的知识库了

有了知识库后需要将知识库关联到某个模型助手中这里我们重新创建一个IT助手模型应用然后关联下刚刚创建的知识库博客知识库

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

现在打开IT助手对话框这里我输入请介绍下 原型链然后助手就参考了下知识库的内容并生成最后的结果

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

     总结如今,人工智能技术发展迅速,越来越多的企业和组织选择搭建自己的私有ChatGPT。私有ChatGPT不仅能像OpenAI的ChatGPT一样生成高质量的文本和进行流畅的对话,还拥有独特的优势,比如更好地保护数据隐私、支持个性化定制,以及高效稳定的运行。通过私有化部署,企业可以完全掌握自己的数据和模型,确保敏感信息不会外泄。

      同时,企业还能根据自身需求打造专属的AI助手,从而提升工作效率和用户体验。无论是通过微调现有模型,还是利用开源框架(如FastGPT、LLaMA)进行二次开发,企业都能快速搭建出适合自己的智能对话系统。总的来说,私有ChatGPT不仅能满足个性化需求,还能为数据安全和业务发展提供强有力的支持。

DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化
DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

原文始发于微信公众号(黑客技术家园):DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年2月6日00:05:31
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   DeepSeek爆火快来搭建私有ChatGPT_deepseek成为你私有化https://cn-sec.com/archives/3691127.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息