步骤 1:安装 Ollama
Ollama 是一个轻量级工具,用于在本地运行大语言模型。请按照以下步骤完成安装:
- 访问 Ollama 官方网站,根据您的操作系统下载安装包。
- 运行安装程序并完成安装。
- 打开终端,输入以下命令验证 Ollama 是否安装成功:
如果返回版本号,则安装完成。ollama --version
步骤 2:下载并部署 DeepSeek-R1:7b
DeepSeek-R1:7b 是一个 70 亿参数的模型,适合本地运行。部署步骤如下:
- 在终端中运行以下命令以下载 DeepSeek-R1:7b:
下载时间取决于网络速度。ollama pull deepseek-r1:7b
- 下载完成后,启动模型:
这将开启一个交互式终端,可与 DeepSeek-R1:7b 对话。ollama run deepseek-r1:7b
注意: 建议至少 16GB 内存和 5GB 存储空间以确保 DeepSeek-R1:7b 运行顺畅。
步骤 3:安装并配置 ChatBox
ChatBox 提供图形界面,方便与 DeepSeek-R1:7b 交互。安装步骤如下:
- 访问 ChatBox 官方网站,下载对应版本。
- 安装并打开 ChatBox。
- 在设置中选择 "Ollama API",并配置 API 地址:
这是 Ollama 的默认本地地址。http://localhost:11434
- 选择模型 "deepseek-r1:7b" 并保存。
步骤 4:开始使用 DeepSeek-R1:7b
配置完成后,您可以通过 ChatBox 与本地运行的 DeepSeek-R1:7b 进行对话!
- 在 ChatBox 输入问题,模型将实时响应。
- 享受私密、无需联网的 AI 体验。
一键部署安装包
下载一键部署安装包,点击 install.bat 安装脚本,一键完成安装
- 关注公众号,发送 deepseek安装,获取安装包下载地址。模型包含在内,请耐心下载
- 点击 install.bat 安装脚本,安装所有组件
- 运行 ChatBOX 使用