/
githubmirror
/
ColossalAI
ОбзорДокументацияВойти
/
githubmirror
/
ColossalAI
Код
Запросы
0
Пакеты
0
Релизы
0
Аналитика
Безопасность
ДокументацияПоддержка
Политика конфиденциальностиПользовательское соглашениеПолитика использования «cookies»Согласие субъекта персональных данных
2026 ©
ColossalAI/
.../inference/llama/
..
README.md

[Fix] Fix spec-dec Glide LlamaModel for compatibility with transformers (#5837)

2 года назад
benchmark_llama.py

[Fix] Fix Inference Example, Tests, and Requirements (#5688)

2 года назад
benchmark_llama3.py

[Fix/Example] Fix Llama Inference Loading Data Type (#5763)

2 года назад
llama_generation.py

[Inference]Add Streaming LLM (#5745)

2 года назад
run_benchmark.sh

[Fix] Fix Inference Example, Tests, and Requirements (#5688)

2 года назад
test_ci.sh

[Fix] Fix Inference Example, Tests, and Requirements (#5688)

2 года назад
README.md