/
vshmidt
/
llama.cpp
Обзор
Документация
Войти
/
vshmidt
/
llama.cpp
Код
Запросы
0
Задачи
Вики
Пакеты
0
Релизы
0
Аналитика
Безопасность
master
tests/test-model-load-cancel.cpp
27 строк
763 B
Georgi Gerganov
llama : update llama_model API names (#11063)
06 янв 2025, 11:55
Не верифицирован
06 янв 2025, 11:55
47182dd
Код
Авторство
О чём код?
#include "llama.h" #include "get-model.h" #include <cstdlib> int main(int argc, char *argv[] ) { auto * model_path = get_model_or_exit(argc, argv); auto * file = fopen(model_path, "r"); if (file == nullptr) { fprintf(stderr, "no model at '%s' found\n", model_path); return EXIT_FAILURE; } fprintf(stderr, "using '%s'\n", model_path); fclose(file); llama_backend_init(); auto params = llama_model_params{}; params.use_mmap = false; params.progress_callback = [](float progress, void * ctx){ (void) ctx; return progress > 0.50; }; auto * model = llama_model_load_from_file(model_path, params); llama_backend_free(); return model == nullptr ? EXIT_SUCCESS : EXIT_FAILURE; }