LM Studio本地部署deepseek R1

• LM Studio官网:

https://lmstudio.ai/

• 选择对应系统下载安装

• 安装完成,用户选择power user

• 检查环境是否可以正常加载模型
  1) discover-runtime,正常环境如下
  2) 使用虚拟机部署时，没有找到匹配的runtime，加载模型文件会失败

【模型下载】

可以选择在线和离线下载两种方式

一、模型在线安装

• 点击Discover

• 搜索对应模型

二、离线模型下载

• 在huggingface、魔搭社区等网站下载后缀为gguf格式的模型文件

https://www.modelscope.cn/collections/DeepSeek-R1-Distill-GGUF-eec5fee2f2ee42

• 将模型文件移入LM Studio管理的文件

  需要在本地LMStudio安装目录下手动创建Publisher/Repository目录，否则LM Studio看不到模型文件

【模型加载】

• Chat界面选择要加载的模型

• 根据机器配置调整参数

• 模型加载完成

• 举例1:

• 举例2:

原文始发于微信公众号（zyliang）：LM Studio本地部署deepseek R1