KoboldTg

0

Описание

Telegram rp чат-бот с использованием локальной llm через koboldcpp api и сторонних моделей через proxyapi

Языки

  • C#100%
год назад
год назад
год назад
год назад
год назад
README.md

README

О проекте

Данный проект представляет из себя пользовательский интерфейс в виде телеграмм бота поверх OpenAI compatible API. В качестве бэкенда для языковой модели можно использовать как koboldcpp, так и ollama или text generation web ui.

Как запустить

С помощью VisualStudio

  1. Склонируйте проект в любую удобную папку или скачайте архив с кодом.
  2. Отредактируйте файл config.json, указав в нем строку подключения к БД (PostgreSQL), адрес OpenAI compatible API, и токен телеграмм бота.
  3. Нажмите "Запустить". Готово!

С помощью dotnet sdk

  1. Склонируйте проект в любую удобную папку или скачайте архив с кодом.
  2. Перейдите в подпапку KoboldTgBot.
  3. Отредактируйте файл config.json, указав в нем строку подключения к БД (PostgreSQL), адрес OpenAI compatible API, и токен телеграмм бота.
  4. Запустите проект командой dotnet run. Готово!