Articles under the label of 大模型

环境上一篇把双 P40 直通到了虚拟机（aiserver），这篇在虚拟机里部署 Ollama + OpenWebUI，让两张显卡都参与大模型推理。系统：Ubuntu 26.04GPU：Tesla P40 × 2（各 24GB，直通）运行时：Docker服务：Ollama（模型推理）+ OpenWebUI（前端界面）1. 开启 Docker GPU 支持Docker 默认看不到 GPU，需要装...