/
GreyCat
/
GC-AI-Control-Tower
Обзор
Документация
Войти
/
GreyCat
/
GC-AI-Control-Tower
Код
Запросы
0
Задачи
Вики
Пакеты
0
Релизы
0
Аналитика
Безопасность
main
control-tower-api/src/core/semantic_cache.py
18 строк
581 B
Vlad
Create semantic_cache.py
16 сен 2025, 11:12
Не верифицирован
16 сен 2025, 11:12
aabac75
Код
Авторство
О чём код?
import redis from sentence_transformers import SentenceTransformer import numpy as np redis_client = redis.from_url("redis://redis:6379", decode_responses=True) model = SentenceTransformer("all-MiniLM-L6-v2") def get_cache_key(query: str) -> str: emb = model.encode([query])[0] return f"cache:{np.hash(emb.tobytes())}" def get_cached_answer(query: str) -> str | None: key = get_cache_key(query) return redis_client.get(key) def set_cached_answer(query: str, answer: str, ttl: int = 3600): key = get_cache_key(query) redis_client.setex(key, ttl, answer)