/
githubmirror
/
Open-Assistant
Обзор
Документация
Войти
/
githubmirror
/
Open-Assistant
Код
Запросы
0
Пакеты
0
Релизы
0
Аналитика
Безопасность
main
inference/worker/download_model.py
21 строка
543 B
Yannic Kilcher
Introduce model configs to abstract pairings of models and hardware (#2194)
25 мар 2023, 00:28
Не верифицирован
25 мар 2023, 00:28
0331e69
Код
Авторство
О чём код?
import os import signal import sys import transformers def terminate(signum, frame): print("Terminating...") sys.exit(0) if __name__ == "__main__": signal.signal(signal.SIGINT, terminate) model_id = os.getenv("MODEL_ID") if "llama" in model_id.lower(): transformers.LlamaTokenizer.from_pretrained(model_id) transformers.LlamaForCausalLM.from_pretrained(model_id) else: transformers.AutoTokenizer.from_pretrained(model_id) transformers.AutoModelForCausalLM.from_pretrained(model_id)