/

/

llama.cpp

Обзор ДокументацияВойти

/

/

llama.cpp

Аналитика

Безопасность

llama.cpp

Публичный

Зеркало из https://github.com/ggerganov/llama.cpp

Описание

1.54 GiB

Лицензия

Политика безопасности

Правила участия

В избранном1

Языки

C++55,9%
C15,9%
Python7,2%
Cuda5,4%
TypeScript4,2%
Svelte2,2%
Остальные9,2%

Сообщить о нарушении

Коммиты:

Xuan-Son Nguyen

llama: fix whole source code rebuilt on each new commit (#28278)

9 часов назад

Не верифицирован

9 часов назадd230ddd

OpenVINO: Update OV to 2026.3.1, whisper.cpp support, Qwen3.5 on NPU, and new ops (#27843)

7 дней назад

contributing: tighten AI usage policy (#18388)

8 месяцев назад

server : use pytest-xdist for server tests (#28298)

18 часов назад

ci : add older, min and dry-run options to ccache-clear (#27504)

13 дней назад

cmake : introduce semantic versioning (#26839)

23 дня назад

benches : add Nemotron 3 Nano on DGX Spark (#20652)

6 месяцев назад

ci : add check for unzip (#28082)

4 дня назад

CI: Use LLVM's OpenMP over MSVC_DEBUG_non_redist on Windows (#26678)

15 дней назад

common/json-schema : fix GBNF grammar generation for empty object schemas (#28279)

10 часов назад

convert : skip bias_vl tensor in DeepSeek-V4 DSpark conversion (#28294)

день назад

ops: add Hexagon to ops.md and update main README.md (#28263)

16 часов назад

common/json-schema : fix GBNF grammar generation for empty object schemas (#28279)

10 часов назад

opencl: quant lm_head / decode GEMV and medium-batch GEMM optimizations (speculative decoding/MTP) (#26477)

14 часов назад

model: add NVIDIA Nemotron-3-Puzzle-75B-A9B (NemotronHPuzzle) support (#25444)

день назад

docs : fix typos in CUDA-FEDORA.md and grammars/README.md (#24459)

3 месяца назад

bench: add --tensor-read-lazy (#27881)

6 дней назад

refactor : remove libcurl, use OpenSSL when available (#18828)

8 месяцев назад

media : add transparent icon svg and png [no ci] (#15891)

год назад

model: add Kimi-K3 text model (#26185)

20 дней назад

libs : rename libcommon -> libllama-common (#21936)

5 месяцев назад

requirements: use stable torch packages on s390x (#26864)

24 дня назад

snapdragon: ci updates to use new run script (#28293)

15 часов назад

test: move tools/parser to tests (#27548)

12 дней назад

llama: fix whole source code rebuilt on each new commit (#28278)

9 часов назад

common/json-schema : fix GBNF grammar generation for empty object schemas (#28279)

10 часов назад

server : use pytest-xdist for server tests (#28298)

18 часов назад

vendor : update cpp-httplib to 0.54.0 (#27919)

5 дней назад

fix: apply clang-format to CUDA macros (#16017)

год назад

clang-tidy : disable warning about performance enum size (#16127)

год назад

docker : prebuild web UI for s390x build [no release] (#24829)

2 месяца назад

common : Update stb_image.h to latest version (#9161)

2 года назад

ui: Restructure repo to use `tools/ui` folder and `ui` / `UI` / `llama-ui` / `LLAMA_UI` naming (#23064)

4 месяца назад

llama : move end-user examples to tools directory (#13249)

год назад

ui: PWA support (#23871)

3 месяца назад

ggml : remove kompute backend (#14501)

год назад

.pre-commit-config.yaml

convert.py : add python logging instead of print() (#6511)

2 года назад

arg: remove -no-cnv from cli [no ci] (#27542)

13 дней назад

readme : update status badges + regen AUTHORS (#27317)

17 дней назад

contributing: tighten AI usage policy (#18388)

8 месяцев назад

ci: Clean up UI builds from releases (#27706)

9 дней назад

CMakePresets.json

cmake : Add CMake presets for Linux and GCC (#14656)

год назад

AVX2: Speed up large batch size prompt processing of IQ models (#27402)

4 дня назад

CONTRIBUTING.md

contrib : recommend waiting for CI before merging (#27603)

12 дней назад

docs : Minor cleanups (#19252)

7 месяцев назад

make : remove make in favor of CMake (#15449)

год назад

ops: add Hexagon to ops.md and update main README.md (#28263)

16 часов назад

security : clarify about AI-generated reports (#26579)

месяц назад

build-xcframework.sh

metal : add metallib build support for xcframework (#28163)

2 дня назад

convert_hf_to_gguf.py

convert: add option to create separate dspark GGUF (#26452)

месяц назад

convert_hf_to_gguf_update.py

Add support for Laguna XS.2 & M.1 (#25165)

месяц назад

convert_llama_ggml_to_gguf.py

ci : switch from pyright to ty (#20826)

5 месяцев назад

convert_lora_to_gguf.py

convert : fix lora base model arch retrieval (#24621)

3 месяца назад

fix(nix): remove non-functional llama-cpp cachix cache from flake.nix (#15295)

год назад

convert : partially revert PR #4818 (#5041)

3 года назад

model: add Mellum architecture (#23966)

3 месяца назад

pyrightconfig.json

ci : switch from pyright to ty (#20826)

5 месяцев назад

requirements.txt

`tool-call`: fix Qwen 2.5 Coder support, add micro benchmarks, support trigger patterns for lazy grammars (#12034)

год назад

mtmd : DeepSeek-OCR image processing fixes, img_tool::resize padding refactor (#23345)

3 месяца назад

README.md