autogptq
Описание
An easy-to-use LLMs quantization package with user-friendly apis, based on GPTQ algorithm.
Языки
- Python62,8%
- Cuda32,2%
- C++4,8%
- C0,1%
- Dockerfile0,1%
2 года назад
2 года назад
2 года назад
2 года назад
2 года назад
2 года назад
3 года назад
2 года назад
2 года назад
3 года назад
2 года назад
2 года назад
3 года назад
2 года назад
2 года назад
README.md