解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手

admin 2025年2月7日00:13:39评论56 views字数 1253阅读4分10秒阅读模式
作者 | 书汐
一、介绍:
1️⃣ Ollama —— 本地大模型部署神器
Ollama 是一款开源工具,专注于将大语言模型本地化部署,适配 Windows、macOS 及 Linux 平台。使用 Ollama,您无需依赖云端服务即可实现低延迟运行,同时确保数据安全✨。

  • 轻量高效:降低运行延迟,全面保护隐私🔐
  • 多模型支持:兼容各类经典及前沿大模型
  • 便捷管理:简单直观的命令行操作,让部署更加灵活
2️⃣ AnythingLLM —— 多文档智能整合助手
AnythingLLM 是一个强大的知识整合平台,它能够将分散的数据源整合为统一知识库,实现精准向量检索📚。

  • 高效向量检索:精准匹配用户查询,实现快速响应⚡
  • 多文档整合:统一知识体系,提升问答效果
  • 与 Ollama 无缝对接:完美融合本地部署的 DeepSeek 模型,实现智能对话
3️⃣ DeepSeek —— 极致推理与智能问答模型

DeepSeek 是由深度求索团队倾力打造的高性能推理模型,专注于解决复杂的逻辑推理和多步骤问答问题🧠。

  • 强化学习驱动:利用少量标注数据迅速提升模型能力
  • 长链推理支持:分步解析复杂问题,给出细致解答📝
  • 开放生态与高性价比:开源协议确保灵活定制,同时大幅降低使用成本

本地部署
01.下载安装ollama:
ollama安装运行后会在桌面右下角出现羊驼的图标

官网地址https://ollama.com/download安装后打开cmd拉取deepseek模型ollama run deepseek-r1
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
拉取成功后可直接在命令行使用,输入 /bye 退出
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
02.下载安装AnythingLLM:
官网地址https://anythingllm.com/desktopGitHub地址https://github.com/Mintplex-Labs/anything-llm
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
03.配置ollama联动AnythingLLM:
进入AnythingLLM点击设置
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
LLM首选项选择Ollama,模型选择刚刚下载的deepseek-r1,记得点击右上角保存
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
回到主页新建工作区,这里可以导入网络或者本地pdf,word等文档,结合起来配合DeepSeek进行问答,可以下载一些渗透方面的笔记投喂
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
deepseek进阶使用:
打开JetBrains IDEA全家桶里任意一款软件,这里我以pycharm为例,安装CodeGpt插件
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
配置插件,选择ollama,使用deepseek模型
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
现在,就可以愉快地在PyCharm中使用DeepSeek-r1加速编程学习了测试效果(本地跟线上还是有些差距的)
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
-END-
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
喜欢就点个关注吧~                     解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
 往期文章:

对屌丝朋友的一次钓鱼分享(lnk钓鱼)

web安全之登录框渗透骚姿势

Cobalt_Strike(CS)安装到免杀上线

ARL灯塔魔改,自动化资产搜集+漏扫+推送+1W加指纹

免杀+伪造+钓鱼必备

喜欢这篇文章记得点赞+在看解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手
解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手

原文始发于微信公众号(黑白防线):解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年2月7日00:13:39
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   解锁本地 AI 新体验 —— Ollama+AnythingLLM+DeepSeek 助你构建私有知识库+编程助手https://cn-sec.com/archives/3705258.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息