KoboldTg
Описание
Telegram rp чат-бот с использованием локальной llm через koboldcpp api и сторонних моделей через proxyapi
Языки
- C#100%
год назад
год назад
год назад
год назад
год назад
README.md
README
О проекте
Данный проект представляет из себя пользовательский интерфейс в виде телеграмм бота поверх OpenAI compatible API. В качестве бэкенда для языковой модели можно использовать как koboldcpp, так и ollama или text generation web ui.
Как запустить
С помощью VisualStudio
- Склонируйте проект в любую удобную папку или скачайте архив с кодом.
- Отредактируйте файл config.json, указав в нем строку подключения к БД (PostgreSQL), адрес OpenAI compatible API, и токен телеграмм бота.
- Нажмите "Запустить". Готово!
С помощью dotnet sdk
- Склонируйте проект в любую удобную папку или скачайте архив с кодом.
- Перейдите в подпапку KoboldTgBot.
- Отредактируйте файл config.json, указав в нем строку подключения к БД (PostgreSQL), адрес OpenAI compatible API, и токен телеграмм бота.
- Запустите проект командой dotnet run. Готово!