embedchain

Форк
0
/
vllm.yaml 
14 строк · 245.0 Байт
1
llm:
2
  provider: vllm
3
  config:
4
    model: 'meta-llama/Llama-2-70b-hf'
5
    temperature: 0.5
6
    top_p: 1
7
    top_k: 10
8
    stream: true
9
    trust_remote_code: true
10

11
embedder:
12
  provider: huggingface
13
  config:
14
    model: 'BAAI/bge-small-en-v1.5'
15

Использование cookies

Мы используем файлы cookie в соответствии с Политикой конфиденциальности и Политикой использования cookies.

Нажимая кнопку «Принимаю», Вы даете АО «СберТех» согласие на обработку Ваших персональных данных в целях совершенствования нашего веб-сайта и Сервиса GitVerse, а также повышения удобства их использования.

Запретить использование cookies Вы можете самостоятельно в настройках Вашего браузера.