/
githubmirror
/
ColossalAI
Обзор
Документация
Войти
/
githubmirror
/
ColossalAI
Код
Запросы
0
Пакеты
0
Релизы
0
Аналитика
Безопасность
main
colossalai/legacy/inference/tensor_parallel/__init__.py
4 строки
123 B
Xu Kai
[inference] Refactor inference architecture (#5057)
19 ноя 2023, 16:05
Не верифицирован
19 ноя 2023, 16:05
fd6482a
Код
Авторство
О чём код?
from .engine import TPInferEngine from .kvcache_manager import MemoryManager __all__ = ["MemoryManager", "TPInferEngine"]