DeepSeek R1本地部署

admin 2025年1月28日14:17:01评论34 views字数 883阅读2分56秒阅读模式
在这么短时间就能用开源的方式,推出性能堪比甚至赶超OpenAI o1的模型,并且成本也是比其它模型要低很多。感觉是国产大模型一个很大的进步。

0x00、下载安装

这篇就简单本地部署一下,不做深度测试。ollama上已经有这个模型了,直接使用ollama来简单体验一下
https://ollama.com/download
DeepSeek R1本地部署
这里我用的是Windows,直接下载exe应用程序,双击安装。点击Install,然后全部默认,一路到底。安装完成之后,会自动启动,右下角托盘上会显示应用图标。
DeepSeek R1本地部署
C:Usersqq>ollama -vollama version is0.5.7
DeepSeek R1本地部署
已经ok了
0x01、部署
DeepSeek R1本地部署
ollama run deepseek-r1
DeepSeek R1本地部署
默认的模型是7B Q4的量化版。大小为4.7G。
0x02、简单体验
我们可以看到<think>标签里的是思考的内容即思考阶段的内容,后面的是输出的内容
DeepSeek R1本地部署
思考的内容如下:
<think>好的,请提供您希望进行对比的具体内容或场景,我将为您进行详细说明!例如:**服务功能对比**:比如智能对话、知识检索、生成文本等。**应用场景对比**:比如教育、客服、写作等。**技术优势对比**:比如模型架构、训练数据、准确率等。请告诉我您想对比的具体内容,我会尽力为您解答!</think>
思考阶段的如下:
好的,请提供您希望进行对比的具体内容或场景,我将为您进行详细说明!例如:**服务功能对比**:比如智能对话、知识检索、生成文本等。**应用场景对比**:比如教育、客服、写作等。**技术优势对比**:比如模型架构、训练数据、准确率等。请告诉我您想对比的具体内容,我会尽力为您解答!
又简单问了几个问题,因为之前用了一段时间,但是用的是网页版的,没有think的过程。think标签的内容给我的第一感觉是它更加侧重于我们自己的习惯,即回答问题时更侧重深度"思考和推理"我们的话,推理过程挺有意思(个人见解)。可能这也是为什么叫"推理模型"的原因之一。更多的使用体验大家可以自行探索。

原文始发于微信公众号(漏洞之星):DeepSeek R1本地部署

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年1月28日14:17:01
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   DeepSeek R1本地部署https://cn-sec.com/archives/3683147.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息