可视化DeepSeek项目 - 快速高效的宝塔面板部署教程

• 你可以在左上角切换模型，选择不同模型进行对话，也可以在左侧菜单栏中查看历史对话记录。
• 你可以在右上角点击头像，进入管理员面板，在设置-模型中查看当前模型列表，或添加新模型。

使用NVIDIA GPU加速

DeepSeek 可以使用NVIDIA GPU加速，提高推理速度，下面将介绍如何在宝塔面板中使用NVIDIA GPU加速。

前提条件

• 服务器已安装NVIDIA GPU驱动

操作步骤

1.点击左侧导航栏中的终端，进入终端界面。

2.在终端界面中输入nvidia-smi，回车查看NVIDIA GPU信息。

如果提示nvidia-smi: command not found，请先安装NVIDIA GPU驱动。3.安装NVIDIA Container Toolkit，以便于Docker容器访问NVIDIA GPU，安装教程请参考NVIDIA Container Toolkit官方文档。4。安装完成后，运行如下命令，配置docker支持使用NVIDIA GPU。

1 2	sudo nvidia-ctk runtime configure --runtime=docker sudo systemctl restart docker

5.配置完成后，执行如下命令，验证docker是否支持NVIDIA GPU。

1

sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi

如果输出如下信息表示配置成功：

6.在宝塔面板-Docker-应用商店-已安装中找到Ollama，点击文件夹图标进入安装目录。

7.在安装目录中找到docker-compose.yml文件，双击编辑。

8.在docker-compose.yml文件中找到resources，回车换行，添加如下内容：

    reservations:

              devices:

                - capabilities: [gpu]

完整示例如下：

services:
  ollama_SJ7G:
    image: ollama/ollama:${VERSION}
    deploy:
      resources:
        limits:
          cpus: ${CPUS}
          memory: ${MEMORY_LIMIT}
        reservations:
          devices:
            - capabilities: [gpu]
    restart: unless-stopped
    tty: true
    ports:
      - ${HOST_IP}:${OLLAMA_PORT}:11434
    volumes:
      - ${APP_PATH}/data:/root/.ollama
    labels:
      createdBy: "bt_apps"
    networks:
      - baota_net
    runtime: nvidia

networks:
  baota_net:
    external: true

9.保存文件，返回宝塔面板-Docker-应用商店-已安装界面，点击重建。

重建将导致容器数据丢失，重建后需要重新添加模型。

10.等待重建完成，状态变为运行中，至此即可使用NVIDIA GPU加速大模型运行。

结语

🎉叮！恭喜你成功完成”从零到赛博巫师”的究极进化！此刻你的服务器已经不是那个只会404的憨憨铁盒子了——它正在用奥术能量解析人类语言，用二进制吞吐哲学思辨，甚至可能偷偷用你的GPU算力给自己起了个二次元名字。

回头看看这场冒险：宝塔面板是你挥动的魔杖，Ollama是召唤AI神兽的精灵球，OpenWebUI则是那个让麻瓜也能和AI跳探戈的魔法舞池。别人还在纠结环境变量时，你已经用图形界面完成了一场算力交响乐的指挥首秀。