/
githubmirror
/
devika
Обзор
Документация
Войти
/
githubmirror
/
devika
Код
Запросы
0
Пакеты
0
Релизы
0
Аналитика
Безопасность
main
src/llm/openai_client.py
24 строки
689 B
ayush rajgor
Improve and Fix: response parser, invalid response and others (#522)
02 май 2024, 17:32
Не верифицирован
02 май 2024, 17:32
cdfb782
Код
Авторство
О чём код?
from openai import OpenAI from src.config import Config class OpenAi: def __init__(self): config = Config() api_key = config.get_openai_api_key() base_url = config.get_openai_api_base_url() self.client = OpenAI(api_key=api_key, base_url=base_url) def inference(self, model_id: str, prompt: str) -> str: chat_completion = self.client.chat.completions.create( messages=[ { "role": "user", "content": prompt.strip(), } ], model=model_id, temperature=0 ) return chat_completion.choices[0].message.content