/
githubmirror
/
ColossalAI
Обзор
Документация
Войти
/
githubmirror
/
ColossalAI
Код
Запросы
0
Пакеты
0
Релизы
0
Аналитика
Безопасность
main
colossalai/zero/gemini/__init__.py
17 строк
490 B
Wenhao Chen
[shardformer]: support gpt-j, falcon, Mistral and add interleaved pipeline for bert (#5088)
28 ноя 2023, 11:54
Не верифицирован
28 ноя 2023, 11:54
7172459
Код
Авторство
О чём код?
from .chunk import ChunkManager, TensorInfo, TensorState, search_chunk_configuration from .gemini_ddp import GeminiDDP from .gemini_mgr import GeminiManager from .gemini_optimizer import GeminiAdamOptimizer, GeminiOptimizer from .utils import get_static_torch_model __all__ = [ "GeminiManager", "TensorInfo", "TensorState", "ChunkManager", "search_chunk_configuration", "GeminiDDP", "get_static_torch_model", "GeminiAdamOptimizer", "GeminiOptimizer", ]