×

DeepSeek本地部署及局域网共享使用

hqy hqy 发表于2025-02-11 22:23:46 浏览16 评论0

抢沙发发表评论

本文仅供学习使用,首先你得有N卡,检查一下你的电脑是否有N卡,有就继续往下看,没有就回家吧孩子,回家吧!开个玩笑,我们可以白嫖好兄弟的呀。


本次环境

内存:32G

显卡:  GTX 3060  6G 

windows11

配置要求

本次部署8b,因为小下载快,只有5g。如果配置跟得上推荐使用32B的模型, 基本上可以达到原版9成水平

图片
图片

本地部署

下载ollama

ollama是一个开源的人工智能框架,旨在为开发者提供一个灵活、高效的工具,可以轻松将大语言模型集成到自己的应用中。

访问: https://ollama.com/library/deepseek-r1  

图片

双击安装ollama,默认安装在C盘

图片

下载Chatbox

Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API。

下载地址:https://chatboxai.app/zh

图片

双击安装,这里我选的D盘安装

系统环境配置

开始配置系统环境,

图片

选择环境变量

Windows 上配置

在 Windows 上,Ollama 会继承你的用户和系统环境变量。

  1. 通过任务栏退出 Ollama。
  2. 打开设置(Windows 11)或控制面板(Windows 10),并搜索“环境变量”。
  3. 点击编辑你账户的环境变量。为你的用户账户编辑或创建新的变量 OLLAMA_HOST,值为 0.0.0.0; 为你的用户账户编辑或创建新的变量 OLLAMA_ORIGINS,值为 *,为了不都放在C盘,我还配置了OLLAMA_MODELS,值为 D:\ai\ollama\models,

图片
图片

  1. 点击确定/应用以保存设置。
  2. 从 Windows 开始菜单启动 Ollama 应用程序。

其他操作系统参考:https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide

安装DeepSeek


ollama run deepseek-r1:8b

在 https://ollama.com/library/deepseek-r1 选择要下载的参数量,4.9g是大小,右侧为安装命令。

图片

使用cmd命令安装

图片

这里表示安装成功,但是是窗口,使用/bye结束


图片

chatbox 配置,模型选择 OLLAMA API  ,api域名选择 http://127.0.0.1:11434/  保存

图片

测试

图片

共享局域网

查看自己ip地址

图片

windows下最好关闭防火墙,或者配置入站策略,确保局域网其他主机访问DeepSeek部署主机端口显示。

图片

下载浏览器插件

Page Assist

https://github.com/n4ze3m/page-assist

图片

点击插件访问,先设置为中文

图片

Ollama URL 为部署DeepSeek那台主机ip

图片

选择模型

图片

点击新聊天,选择模型,后即可正常使用

图片


打赏

本文链接:https://www.kinber.cn/post/4808.html 转载需授权!

分享到:


推荐本站淘宝优惠价购买喜欢的宝贝:

image.png

 您阅读本篇文章共花了: 

群贤毕至

访客