/
githubmirror
/
Open-Assistant
ОбзорДокументацияВойти
/
githubmirror
/
Open-Assistant
Код
Запросы
0
Пакеты
0
Релизы
0
Аналитика
Безопасность
ДокументацияПоддержка
Политика конфиденциальностиПользовательское соглашениеПолитика использования «cookies»Согласие субъекта персональных данных
2026 ©
Open-Assistant/
model/pretokenizer/
..
configs

Add megacode3 dataset (#3656)

3 года назад
README.md

Add pretokenizer utility (#3654)

3 года назад
create_hf_tokenizer_config.py

Add pretokenizer utility (#3654)

3 года назад
indexed_dataset.py

Add pretokenizer utility (#3654)

3 года назад
pretokenize.py

Add dataset adapter for loading dolly15k_multilingual dataset (#3660)

3 года назад
requirements.txt

Add pretokenizer utility (#3654)

3 года назад
tokenizer.py

Add pretokenizer utility (#3654)

3 года назад
README.md