/

/

Обзор ДокументацияВойти

/

/

Аналитика

Безопасность

GaLore

Описание

GaLore: Memory-Efficient LLM Training by Gradient Low-Rank Projection

Лицензия

В избранном1

Языки

Python97,5%
Shell2,5%

Сообщить о нарушении

Коммиты:

Zhenyu (Allen) Zhang
Update torchrun_main.py
2 года назад
1b36c33
Не верифицирован

2 года назад

2 года назад

2 года назад

peft_pretraining

2 года назад

2 года назад

2 года назад

2 года назад

update readme and pip package

2 года назад

exp_requirements.txt

update readme and pip package

2 года назад

requirements.txt

update readme and pip package

2 года назад

2 года назад

2 года назад

torchrun_main.py

Update torchrun_main.py

2 года назад

GaLore News Discussion (GaLore-Social)Installation Usage Benchmark 1: Pre-Training LLaMA on C4 dataset Benchmark 2: Fine-Tuning RoBERTa on GLUE tasks Citation

README.md

Описание

GaLore: Memory-Efficient LLM Training by Gradient Low-Rank Projection

Лицензия

В избранном1

Языки

Python97,5%
Shell2,5%

Сообщить о нарушении

Все инструменты для разработки на одной платформе

Для полного доступа зарегистрируйтесь или авторизуйтесь на GitVerse