小学生也能把DeepSeek AI大模型部署到本地电脑

admin 2025年2月5日00:55:37评论71 views字数 2906阅读9分41秒阅读模式

在科技飞速发展的今天,AI大模型不再遥不可及,即便是小学生,也能够在指导下,轻松地将DeepSeek AI大模型部署到本地电脑。今天,我们就来详细讲解一下,如何通过简单几步,让小学生也能拥有自己的AI助手。

一、前期准备

在开始之前,我们需要准备以下材料和工具:

1.电脑台能够运行Windows操作系统的电脑,建议使用较新的配置,以保证AI大模型的流畅运行

2.网络:稳定的网络连接,用于下载Ollama和Chatbox软件。

3.Ollama和Chatbox:这是部署DeepSeek AI大模型的关键工具,我们需要在Ollama官网下载并安装Ollama软件,同时在Chatbox AI官网下载Chatbox软件。

二、安装ollama 

1.下载Ollama首先,我们需要在浏览器中打开Ollama的官网:https://ollama.com/download,然后点击“下载”按钮,下载Ollama安装包。

小学生也能把DeepSeek AI大模型部署到本地电脑

2.安装Ollama下载完成后,双击安装包,按照提示完成Ollama的安装。在安装过程中,我们需要注意选择合适的安装路径,并确保电脑具有足够的存储空间。

小学生也能把DeepSeek AI大模型部署到本地电脑

3.搜索DeepSeek模型安装完成后,我们打开Ollama软件,在搜索框中输入“DeepSeek”,然后选择合适大小的模型进行下载。在选择模型时,我们需要根据电脑的显卡配置来选择合适的模型大小。如果显卡配置较高,可以选择较大的模型以获得更好的性能;如果显卡配置较低,则建议选择较小的模型以节省资源。

4.安装DeepSeek模型选择好模型后,我们在终端中执行相应的命令来安装DeepSeek模型。例如,如果要安装DeepSeek R1 1.5b模型,我们可以执行以下命令:

ollama run deepseek-r1:1.5bollama run deepseek-r1:7bollama run deepseek-r1:8bollama run deepseek-r1:14bollama run deepseek-r1:32bollama run deepseek-r1:70b        

等待命令执行完成后,DeepSeek模型就被成功安装到本地电脑中了。

小学生也能把DeepSeek AI大模型部署到本地电脑

小学生也能把DeepSeek AI大模型部署到本地电脑

三、配置Chatbox并连接到ollama服务

1.下载Chatbox接下来,我们需要下载并安装Chatbox软件。打开Chatbox AI的官网:https://chatboxai.app/zh,然后点击“下载”按钮,下载Chatbox安装包。

2.安装Chatbox下载完成后,双击安装包,按照提示完成Chatbox的安装。同样需要注意选择合适的安装路径和确保足够的存储空间。

3.配置环境变量为了让Chatbox能够成功连接到Ollama服务,我们需要在Windows上配置环境变量。具体步骤如下:

o在任务栏上右键点击Ollama图标并选择“退出”,确保Ollama服务未在运行。

o打开Windows设置(Windows11)或控制面板(Windows10),并搜索“环境变量”。

·小学生也能把DeepSeek AI大模型部署到本地电脑

o点击“编辑系统环境变量”或“编辑用户的环境变量”(具体选项可能因Windows版本而异)。

o在弹出的窗口中,点击“环境变量”按钮。

o在“系统变量”或“用户变量”区域中,找到并点击“新建”按钮,创建一个新的变量。变量名设置为OLLAMA_HOST,变量值设置为0.0.0.0

o同样地,再创建一个新的变量,变量名设置为OLLAMA_ORIGINS,变量值设置为*

小学生也能把DeepSeek AI大模型部署到本地电脑

o点击“确定”按钮保存设置,并关闭所有打开的窗口。

5.启动Ollama服务配置好环境变量后,我们从Windows开始菜单启动Ollama应用程序。此时,Ollama服务将在当前网络(如家庭Wifi)中提供服务。

6.获取Ollama服务的IP地址在Windows的命令提示符或PowerShell中,输入以下命令来获取电脑的IP地址:

ipconfig

在输出的信息中,找到当前网络连接的IP地址,通常形式为192.168.XX.XX。这个IP地址就是Ollama服务的IP地址。

7.配置Chatbox打开Chatbox软件,在“设置”或“配置”选项中找到“API Host”设置项。将API Host设置为之前获取的Ollama服务的IP地址,并在端口号后添加:11434(例如,如果IP地址为192.168.1.100,则API Host设置为http://192.168.1.100:11434)。

8.允许防火墙端口根据操作系统和网络环境的不同,可能需要在防火墙中允许Ollama服务的端口(默认为11434)。具体方法因操作系统而异,可以参考操作系统的防火墙设置文档。

小学生也能把DeepSeek AI大模型部署到本地电脑

9.避免安全风险为了避免安全风险,请不要将Ollama服务暴露在公共网络中。在家庭Wifi网络等相对安全的环境中运行Ollama服务即可。

四、使用DeepSeek AI大模型

1.启动模型在Ollama软件中,我们可以看到已安装的DeepSeek模型。通过执行以下命令来启动模型:

ollama run deepseek-r1:1.5b         

启动成功后,我们就可以在Chatbox中与DeepSeek AI大模型进行交互了。

2.基本命令

o退出模型:在Chatbox中输入/bye命令,可以退出当前运行的DeepSeek模型。

o查看模型:在Ollama的终端中执行ollama list命令,可以查看已安装的模型列表。

o查看帮助:在Ollama的终端中执行ollama -h命令,可以查看Ollama的帮助信息,了解更多命令和用法。

3.与DeepSeek交互启动DeepSeek模型后,我们可以在Chatbox中输入自然语言问题或指令,与DeepSeek进行交互。DeepSeek会根据输入的内容给出相应的回答或执行相应的操作。

五、效果演示

为了更直观地展示DeepSeek AI大模型在本地电脑上的部署效果,我们可以进行以下效果演示:

1.问答互动在Chatbox中输入一些简单的问题,如“今天天气怎么样?”、“世界上最高的山峰是什么?”等。DeepSeek会迅速给出准确的回答。

小学生也能把DeepSeek AI大模型部署到本地电脑

2.文本创作输入一些创作性的指令,如“写一篇关于小猫的短文”、“描述一下未来的城市生活”等。DeepSeek会根据指令生成相应的文本内容。

小学生也能把DeepSeek AI大模型部署到本地电脑

3.数学计算输入一些数学计算问题,如“23+45=?”、“98-76=?”等。DeepSeek会迅速给出正确的计算结果。

4.编程辅助对于对编程感兴趣的小学生来说,他们可以输入一些编程相关的指令或问题,如“如何打印Hello World?”、“解释一下循环语句的用法”等。DeepSeek会提供相应的编程知识和示例代码。

小学生也能把DeepSeek AI大模型部署到本地电脑

六、总结与展望

展望未来,我们可以进一步探索DeepSeek AI大模型在更多领域的应用,如教育、娱乐、医疗等。同时,也可以尝试将更多的AI大模型部署到本地电脑上,以满足不同领域和场景的需求。

我们相信,在不久的将来,AI技术将更加普及和便捷,为我们的生活带来更多便利和乐趣。让我们共同期待AI技术的美好未来吧!

原文始发于微信公众号(CSJH网络安全团队):小学生也能把DeepSeek AI大模型部署到本地电脑

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年2月5日00:55:37
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   小学生也能把DeepSeek AI大模型部署到本地电脑https://cn-sec.com/archives/3693516.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息