/
githubmirror
/
devika
Обзор
Документация
Войти
/
githubmirror
/
devika
Код
Запросы
0
Пакеты
0
Релизы
0
Аналитика
Безопасность
main
src/agents/formatter/formatter.py
22 строки
696 B
k10
added token usage track in agent state
24 мар 2024, 15:23
24 мар 2024, 15:23
70641bf
Код
Авторство
О чём код?
from jinja2 import Environment, BaseLoader from src.llm import LLM PROMPT = open("src/agents/formatter/prompt.jinja2").read().strip() class Formatter: def __init__(self, base_model: str): self.llm = LLM(model_id=base_model) def render(self, raw_text: str) -> str: env = Environment(loader=BaseLoader()) template = env.from_string(PROMPT) return template.render(raw_text=raw_text) def validate_response(self, response: str) -> bool: return True def execute(self, raw_text: str, project_name: str) -> str: raw_text = self.render(raw_text) response = self.llm.inference(raw_text, project_name) return response