tiktoken
Описание
tiktoken is a fast BPE tokeniser for use with OpenAI's models.
Языки
- Python70%
- Rust30%
3 года назад
3 года назад
3 года назад
3 года назад
3 года назад
3 года назад
3 года назад
3 года назад
3 года назад
4 года назад
4 года назад
3 года назад
4 года назад
3 года назад
4 года назад
README.md