侧边栏壁纸
  • 累计撰写 208 篇文章
  • 累计创建 16 个标签
  • 累计收到 5 条评论

目 录CONTENT

文章目录

Maxkb玩转大语言模型Deepseek-R1-32b

Wake
2025-03-05 / 0 评论 / 0 点赞 / 222 阅读 / 352 字

前言:

随着Deepseek的爆火,搭建本地个人免费“人工智能”变得越来越简单,今天使用Maxkb搭建本地的个人聊天式对话及个人本地知识域的搭建。

1.安装Maxkb开源应用

docker 快速安装

docker run -d   --name=maxkb   -p 8080:8080   -v ~/maxkb_data:/var/lib/postgresql/data   1panel/maxkb:latest

具体相关参数可以在自定义修改
默认的用户名:admin 密码:MaxKB@123… 想要数据持久化就需要将docker的文件挂在到本地的电脑上
image
创建模型步骤如下:
image-1741150184301
选择自己的模型并安装,我这边使用ollama安装,下面是示例步骤:
image-1741150247440
API域名不能是localhost和127.0.0.1
image-1741150271017
安装过程会出现API域名无效的弹窗提示 有以下原因:
1.没有正确填写域名
2.按装的ollama模型没有开启远程链接

解决方法:
填写的API域名只能是服务器: ip:11434,配置文件要指定端口

set OLLAMA_HOST=0.0.0.0:11343
ollama serve

然后把安全组相关端口放开
再次安装大模型就成功了。

2.创建自己的本地应用

image-1741150450208

3.编辑应用的信息

image-1741150474897

4.测试我们的模型

image-1741150492319
完成之后,也可以将对话的窗口植入到我们自己的网站
image-1741150508053

0

评论区