本文仅供学习使用,首先你得有N卡,检查一下你的电脑是否有N卡,有就继续往下看,没有就回家吧孩子,回家吧!开个玩笑,我们可以白嫖好兄弟的呀。
本次环境
内存:32G
显卡: GTX 3060 6G
windows11
配置要求
本次部署8b,因为小下载快,只有5g。如果配置跟得上推荐使用32B的模型, 基本上可以达到原版9成水平
本地部署
下载ollama
ollama是一个开源的人工智能框架,旨在为开发者提供一个灵活、高效的工具,可以轻松将大语言模型集成到自己的应用中。
访问: https://ollama.com/library/deepseek-r1
双击安装ollama,默认安装在C盘
下载Chatbox
Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API。
下载地址:https://chatboxai.app/zh
双击安装,这里我选的D盘安装
系统环境配置
开始配置系统环境,
选择环境变量
在 Windows 上配置
在 Windows 上,Ollama 会继承你的用户和系统环境变量。
通过任务栏退出 Ollama。 打开设置(Windows 11)或控制面板(Windows 10),并搜索“环境变量”。 点击编辑你账户的环境变量。为你的用户账户编辑或创建新的变量 OLLAMA_HOST,值为 0.0.0.0; 为你的用户账户编辑或创建新的变量 OLLAMA_ORIGINS,值为 *,为了不都放在C盘,我还配置了OLLAMA_MODELS,值为 D:\ai\ollama\models,
点击确定/应用以保存设置。 从 Windows 开始菜单启动 Ollama 应用程序。
其他操作系统参考:https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide
安装DeepSeek
ollama run deepseek-r1:8b
在 https://ollama.com/library/deepseek-r1 选择要下载的参数量,4.9g是大小,右侧为安装命令。
使用cmd命令安装
这里表示安装成功,但是是窗口,使用/bye
结束
chatbox 配置,模型选择 OLLAMA API ,api域名选择 http://127.0.0.1:11434/ 保存
测试
共享局域网
查看自己ip地址
windows下最好关闭防火墙,或者配置入站策略,确保局域网其他主机访问DeepSeek部署主机端口显示。
下载浏览器插件
Page Assist
https://github.com/n4ze3m/page-assist
点击插件访问,先设置为中文
Ollama URL 为部署DeepSeek那台主机ip
选择模型
点击新聊天,选择模型,后即可正常使用
本文链接:https://www.kinber.cn/post/4808.html 转载需授权!
推荐本站淘宝优惠价购买喜欢的宝贝: