JupyterHub с поддержкой LLM

Этот JupyterHub настроен для работы с языковыми моделями через OpenRouter API.

Как начать работу

1. Откройте браузер и перейдите по адресу: https://158.160.87.246:8001

2. Войдите в систему:

   • Имя пользователя: введите любое имя пользователя
   • Пароль: password

3. После входа вы увидите JupyterLab. В левой панели навигации найдите папку

   examples
   , где находятся примеры работы с LLM:
   • 01_basic_llm_usage.ipynb
     - базовый пример использования LLM

Настройка доступа к OpenRouter

Для работы с примерами вам понадобится API ключ OpenRouter:

1. Зарегистрируйтесь на OpenRouter если у вас еще нет аккаунта

2. Получите API ключ:

   • Перейдите в настройки
   • Создайте новый API ключ
   • Скопируйте созданный ключ

3. При первом запуске любого примера вам будет предложено ввести API ключ через безопасное диалоговое окно

Работа с примерами

1. Откройте любой пример из папки

   examples

2. Запустите ячейки по порядку (Shift + Enter или кнопка "Run")

3. При первом запуске введите ваш OPENROUTER_API_KEY когда будет запрошено

4. После этого вы можете экспериментировать с кодом, изменяя параметры и запросы

Сохранение работы

• Все ваши файлы сохраняются в папке
  work
• Вы можете создавать новые ноутбуки и файлы в этой папке
• При следующем входе в систему все ваши файлы будут доступны

Общие ноутбуки (shared_notebooks)

В системе есть папка

, которая доступна всем пользователям:

• Все ноутбуки в этой папке доступны в режиме "только для чтения"
• Чтобы изменить ноутбук из shared_notebooks, сначала сделайте его копию в свою рабочую директорию
• Новые ноутбуки появятся у пользователей после перезапуска их серверов

Как добавить новые ноутбуки в shared_notebooks

1. Поместите новые ноутбуки в папку
   shared_notebooks
2. Пересоберите образ пользователя и перезапустите JupyterHub:

3. Пользователи должны выйти из системы и войти заново, чтобы увидеть новые ноутбуки

Важно: Удаление томов пользователей приведет к потере всех пользовательских данных. Если вы хотите сохранить пользовательские данные, не выполняйте команду удаления томов. В этом случае новые ноутбуки появятся только у новых пользователей.

Управление контейнерами

Просмотр контейнеров

Очистка пользовательских контейнеров

Возможные проблемы

1. Если вы видите ошибку доступа к модели:

   • Убедитесь, что у вас есть достаточно кредитов на OpenRouter
   • Проверьте правильность API ключа
   • Убедитесь, что выбранная модель доступна через OpenRouter

2. Если ноутбук не запускается:

   • Проверьте, что все ячейки выполнены по порядку
   • Убедитесь, что API ключ введен правильно

3. Если не видны новые ноутбуки в shared_notebooks:

   • Убедитесь, что вы перезапустили свой сервер через интерфейс JupyterHub
   • Проверьте, что контейнеры были правильно перезапущены

Дополнительная информация

• Все примеры содержат подробные комментарии
• Вы можете использовать любые модели, доступные через OpenRouter
• Для работы с большими документами может потребоваться больше времени