/

/

Обзор ДокументацияВойти

/

/

Аналитика

Безопасность

llama.cpp

Описание

LLM inference in C/C++

1.49 GiB

Лицензия

Политика безопасности

Правила участия

В избранном0

Языки

C++45,6%
JavaScript20,4%
C10,4%
Python6%
Cuda4,7%
HTML2,5%
Остальные10,4%

Сообщить о нарушении

Коммиты:

Jeff Bolz

vulkan: Support F16 OP_FILL (#22177)

21 апр 2026, 12:01

Не верифицирован

21 апр 2026, 12:0182209ef

devops : added spirv-headers to nix (#21965)

4 месяца назад

contributing: tighten AI usage policy (#18388)

7 месяцев назад

ci : install spirv-headers for vulkan-cross (#22109)

4 месяца назад

benches : add Nemotron 3 Nano on DGX Spark (#20652)

5 месяцев назад

ci: Add Windows Vulkan backend testing on Intel (#21292)

4 месяца назад

hexagon: add support for linux on snapdragon (#21707)

4 месяца назад

fit-params : refactor + add option to output estimated memory per device (#22171)

4 месяца назад

metal: Implement ROLL op (#21946)

4 месяца назад

android : libcommon -> libllama-common (#22076)

4 месяца назад

vulkan: Support F16 OP_FILL (#22177)

4 месяца назад

mtmd: qwen3 audio support (qwen3-omni and qwen3-asr) (#19441)

4 месяца назад

docs : document that JSON Schema is not available to model when using response_format (#18492)

7 месяцев назад

fit-params : refactor + add option to output estimated memory per device (#22171)

4 месяца назад

refactor : remove libcurl, use OpenSSL when available (#18828)

7 месяцев назад

media : add transparent icon svg and png [no ci] (#15891)

год назад

autoparser: support case of JSON_NATIVE with per-call markers (test case: Reka-Edge) (#21892)

4 месяца назад

libs : rename libcommon -> libllama-common (#21936)

4 месяца назад

py : Bump typer to latest to fix huggingface_hub issue (#21701)

4 месяца назад

4 месяца назад

llama-ext : fix exports (#22202)

4 месяца назад

common/autoparser : allow space after tool call (#22073)

4 месяца назад

mtmd: correct mtmd_decode_use_mrope() (#22188)

4 месяца назад

vendor : update cpp-httplib to 0.42.0 (#21781)

4 месяца назад

fix: apply clang-format to CUDA macros (#16017)

год назад

clang-tidy : disable warning about performance enum size (#16127)

год назад

ci : fix docker build number and tag name (#9638)

2 года назад

common : Update stb_image.h to latest version (#9161)

2 года назад

server: (webui) no more gzip compression (#21073)

4 месяца назад

llama : move end-user examples to tools directory (#13249)

год назад

server: (webui) no more gzip compression (#21073)

4 месяца назад

server: (webui) no more gzip compression (#21073)

4 месяца назад

ggml : remove kompute backend (#14501)

год назад

.pre-commit-config.yaml

convert.py : add python logging instead of print() (#6511)

2 года назад

contrib : rewrite AGENTS.md, make it more clear about project values (#21270)

4 месяца назад

authors : update (#19263)

6 месяцев назад

contributing: tighten AI usage policy (#18388)

7 месяцев назад

libs : rename libcommon -> libllama-common (#21936)

4 месяца назад

CMakePresets.json

cmake : Add CMake presets for Linux and GCC (#14656)

год назад

fit-params : refactor + add option to output estimated memory per device (#22171)

4 месяца назад

CONTRIBUTING.md

docs : explicit about banning accounts that violates policy (#19593)

5 месяцев назад

docs : Minor cleanups (#19252)

6 месяцев назад

make : remove make in favor of CMake (#15449)

год назад

readme : clarify MODEL_ENDPOINT usage (#20941)

5 месяцев назад

docs : fix broken link and typo (#19560)

6 месяцев назад

build-xcframework.sh

build : remove LLAMA_HTTPLIB option (#19623)

6 месяцев назад

convert_hf_to_gguf.py

convert : support sentence-transformer 5.4 config files (#22087)

4 месяца назад

convert_hf_to_gguf_update.py

requirements : update transformers to 5.5.1 (#21617)

4 месяца назад

convert_llama_ggml_to_gguf.py

ci : switch from pyright to ty (#20826)

5 месяцев назад

convert_lora_to_gguf.py

requirements : update transformers to 5.5.1 (#21617)

4 месяца назад

flake.lock: Update (#10470)

2 года назад

fix(nix): remove non-functional llama-cpp cachix cache from flake.nix (#15295)

год назад

convert : partially revert PR #4818 (#5041)

3 года назад

build(python): Package scripts with pip-0517 compliance

2 года назад

requirements : update transformers to 5.5.1 (#21617)

4 месяца назад

pyrightconfig.json

ci : switch from pyright to ty (#20826)

5 месяцев назад

requirements.txt

`tool-call`: fix Qwen 2.5 Coder support, add micro benchmarks, support trigger patterns for lazy grammars (#12034)

год назад

ci : switch from pyright to ty (#20826)

5 месяцев назад

README.md