/
tabis
/
tech_ai_base
Обзор
Документация
Войти
/
tabis
/
tech_ai_base
Код
Запросы
0
Задачи
Вики
Пакеты
0
Релизы
0
CI/CD
Аналитика
master
docker-compose.gpu.yaml
19 строк
665 B
Andrey Melkov
Добавить deployment-комплект из Docker Hub образов
30 апр 2026, 11:37
30 апр 2026, 11:37
29a803d
Код
Авторство
О чём код?
# GPU overlay для Ollama. Требует установленный nvidia-container-toolkit. # Используется поверх базового compose И ollama-overlay: # docker compose -f docker-compose.yaml -f docker-compose.ollama.yaml -f docker-compose.gpu.yaml up -d services: ollama: runtime: nvidia environment: NVIDIA_VISIBLE_DEVICES: all OLLAMA_HOST: 0.0.0.0 OLLAMA_KEEP_ALIVE: ${OLLAMA_KEEP_ALIVE:-24h} OLLAMA_NUM_PARALLEL: ${OLLAMA_NUM_PARALLEL:-4} deploy: resources: reservations: devices: - driver: nvidia count: 1 capabilities: [gpu]