Langflow с поддержкой русскоязычных моделей

📌 О проекте

Проект дополняет функциональность opensource решения LangFlow [https://www.langflow.org/] возможностью использовать языковые модели и эмбеддинги российских разработчиков (GigaChat и Yandex GPT), а также интеграцией векторных БД и кастомных агентов.

Langflow - lowcode платформа для визуального создания пайплайнов работы с LLM, быстрой проверки гипотез и создания прототипов решений.

🎯 Достижения

• ✅ Развёрнут Langflow на Яндекс Облаке

• ✅ Подготовлен Dockerfile и загружен в Yandex Container Registry

• ✅ Реализованы кастомные компоненты для:

  • Yandex GPT
  • GigaChat
  • GigaChat Embeddings
  • Агентов с использованием Tools
  • Подключения к Chroma DB

• ✅ Подготовлены примеры flows:

  • Сравнение промптов (Prompting)
  • Агент с использованием Yandex GPT и GigaChat
  • RAG (Retrieval-Augmented Generation)

📂 Структура проекта

custom_components/       # Кастомные модули
 ├── Russian Models/
 │    ├── yandex_gpt.py       # Модуль для Yandex GPT
 │    ├── gigachat.py         # Модуль для GigaChat
 │    └── gigachat_embed.py   # Эмбеддер GigaChat
 │
 └── Tools/
      ├── gigachat_agent.py   # Агент на базе GigaChat с поддержкой Tools
      └── chroma_db.py        # Подключение к Chroma DB

modules/                 # Примеры готовых flows
 ├── Prompting.json          # Сравнение промптов
 ├── GigaChat Agent.json     # Агент с поиском по arXiv
 └── RAG.json                # Retrieval-Augmented Generation

Пример использования

• Пример агента, который ищет информацию о статьях в arXiv

• Пример использования Gigachat и YandexGpt

📂 Варианты использования

1. С использованием нашего Dockerfile/Docker-образа
2. Использование наших модулей в развернутом вами Langflow

1️⃣ С использованием нашего Dockerfile

Запуск через Docker

Langflow будет доступен по адресу: 👉 http://localhost:80

Использование готового образа из Yandex Container Registry

2️⃣ Использование кастомных компонент в развернутом вами Langflow

Для установки Langflow вы можете скачать образ с Dockerhub и написать свой Dockerfile или взять наш (см. выше)

• Все кастомные компоненты находятся в папке - (
  custom_components
  ).
• Вы можете интегрировать эти блоки в свой Langflow скопировав папку
  custom_components
  в корневую директорию вашего проекта или загрузить блоки непосредственно в flow в котором вы работаете.

🔑 Работа с API-ключами языковых моделей

В Langflow ключи необходимо указывать непосредственно в самом компоненте flow. Для удобства сохраните ваш ключ в переменной.

⚡ Использование Flows

Примеры в папке

• Prompting.json – сравнение промптов на GigaChat и Yandex GPT
• GigaChat Agent.json – агент для поиска по arXiv
• RAG.json – демонстрация Retrieval-Augmented Generation

Импортировать flow: Import Flow → выбрать JSON-файл

💡 Советы

• Для проверки гипотез используйте готовые flows из
  modules
  .
• Добавляйте свои блоки в
  custom_components
  — они автоматически подхватятся.

Об авторах

Проект разработан командой совместной лаборатории ИРИТ-РТФ УРФУ и Сбера. Разработчик [https://gitverse.ru/Marakya]