SemanticCache
Описание
SemanticCache это in-memory key-value СУБД для кэширования запросов в LLM. На запрос получения значения по ключу SemanticCache возвращает ближайшее значение и коэффициент близости
Языки
- Rust100%
Михаил Юрьевич Аникутин
20 ноя 2024, 19:14
README.md