本文介绍利用ollama部署deepseek并以openweb-ui作为前端交互界面

• ollama

官网：ollama.com

1. 下载对应系统的ollama客户端。

2. 在models模块搜索deepseek
   1.5b、7b、14b、32b是基于Qwen2.5模型，8b是基于Llama3.1模型，70b是基于llama3.3。761b为Deepseek-R1，按需下载。

3. 根据页面提示命令拉取对应模型，建议从最小的开始

   ollama run deepseek-r1:1.5b
   

4. 启动完成后会以终端运行。

   ollama下载大模型较慢可通过其他途径下载如modelscope。

• docker
  安装系统对应版本的docker配置好后拉取open-webui镜像

• OpenWeb-ui

  Open-Webui的github地址

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

上面为启动命令映射宿主机端口3000至容器端口8080。宿主机端口若有占用则自行更换。

启动完成后访问本地3000端口即可：localhost:3000