sudo docker run -d --name gpustack-server \
  --restart=unless-stopped \
  --network=host \
  -v /etc/gpustack:/var/lib/gpustack \
  docker.m.daocloud.io/gpustack/gpustack:latest \
  --system-default-container-registry=swr.cn-south-1.myhuaweicloud.com



安装流程：
#!/bin/bash
# =============================================================
#  GPUStack 完整安装脚本（Docker 方式）
#  适用：Ubuntu 系统 + NVIDIA 显卡 + Docker
#  用途：一键安装并启动 GPUStack 服务，支持国内镜像源
# =============================================================

echo "=============================================="
echo "  GPUStack 安装脚本（Docker 版）"
echo "=============================================="

# 1. 安装 Docker（如果还没装）
echo "[1/5] 安装 Docker..."
sudo apt update
sudo apt install -y docker.io
sudo systemctl enable --now docker

# 2. 把当前用户加入 docker 组（免 sudo 运行 docker 命令）
echo "[2/5] 配置用户 Docker 权限..."
sudo usermod -aG docker $USER
echo "⚠️  提示：权限变更需要注销并重新登录系统才能完全生效"

# 3. 拉取并启动 GPUStack 容器（使用 DaoCloud 镜像 + 华为云模型源）
echo "[3/5] 启动 GPUStack 容器..."
sudo docker run -d --name gpustack-server \
  --restart=unless-stopped \
  --network=host \
  -v /etc/gpustack:/var/lib/gpustack \
  docker.m.daocloud.io/gpustack/gpustack:latest \
  --system-default-container-registry=swr.cn-south-1.myhuaweicloud.com

# 4. 检查容器是否正常运行
echo "[4/5] 检查容器状态..."
sleep 5
sudo docker ps | grep gpustack-server

# 5. 提示访问地址
echo "[5/5] 安装完成！"
echo "=============================================="
echo "✅ GPUStack 已安装并启动"
echo "🌐 访问地址：http://localhost:8080"
echo "💡 配合 nvidia-container-toolkit 即可启用 GPU 加速"
echo "=============================================="



NVIDIA Container Toolkit 本地安装（配合已下载本地文件）

#!/bin/bash
# =============================================================
#  NVIDIA Container Toolkit 本地安装 & Docker GPU 支持配置
#  适用：Ubuntu 系统 + NVIDIA 显卡 + Docker
#  用途：让 Docker 容器能正常调用 NVIDIA 显卡（用于 GPUStack 等）
# =============================================================

echo "=============================================="
echo "  NVIDIA Container Toolkit 本地安装脚本"
echo "=============================================="

# 1. 进入存放 deb 包的目录（假设文件都在桌面）
echo "[1/6] 进入安装包目录 ~/桌面"
cd ~/桌面 || { echo "错误：找不到 ~/桌面 目录"; exit 1; }

# 2. 逐个安装核心包（按依赖顺序）
echo "[2/6] 开始安装依赖包..."

# 安装 libnvidia-container1
echo "安装 libnvidia-container1..."
sudo dpkg -i libnvidia-container1_1.19.0-1_amd64.deb

# 安装 libnvidia-container-tools
echo "安装 libnvidia-container-tools..."
sudo dpkg -i libnvidia-container-tools_1.19.0-1_amd64.deb

# 安装 nvidia-container-toolkit-base
echo "安装 nvidia-container-toolkit-base..."
sudo dpkg -i nvidia-container-toolkit-base_1.19.0-1_amd64.deb

# 安装 nvidia-container-toolkit 主程序
echo "安装 nvidia-container-toolkit..."
sudo dpkg -i nvidia-container-toolkit_1.19.0-1_amd64.deb

# 3. 修复可能的依赖问题
echo "[3/6] 修复依赖..."
sudo apt install -f -y

# 4. 配置 Docker 以支持 NVIDIA 容器
echo "[4/6] 配置 Docker NVIDIA 运行时..."
sudo nvidia-ctk runtime configure --runtime=docker

# 5. 重启 Docker 服务，让配置生效
echo "[5/6] 重启 Docker 服务..."
sudo systemctl restart docker

# 6. 重启 GPUStack 容器，让它识别显卡
echo "[6/6] 重启 GPUStack 容器..."
sudo docker restart gpustack-server

echo "=============================================="
echo "✅ 安装 & 配置完成！"
echo "请访问 GPUStack 面板：http://localhost:8080"
echo "检查节点页面，确认 RTX 4060 显卡已被识别"
echo "=============================================="