A library for accelerating Transformer models on NVIDIA GPUs, including using 8-bit floating point (FP8) precision on Hopper and Ada GPUs, to provide better performance with lower memory utilization in both training and inference.
Python
Мы используем файлы cookie в соответствии с Политикой конфиденциальности и Политикой использования cookies.
Нажимая кнопку «Принимаю», Вы даете АО «СберТех» согласие на обработку Ваших персональных данных в целях совершенствования нашего веб-сайта и Сервиса GitVerse, а также повышения удобства их использования.
Запретить использование cookies Вы можете самостоятельно в настройках Вашего браузера.