/
githubmirror
/
ColossalAI
Обзор
Документация
Войти
/
githubmirror
/
ColossalAI
Код
Запросы
0
Пакеты
0
Релизы
0
Аналитика
Безопасность
main
examples/language/bert/benchmark.sh
9 строк
325 B
wukong1992
[booster] update bert example, using booster api (#3885)
07 июн 2023, 10:51
Не верифицирован
07 июн 2023, 10:51
a55fb00
Код
Авторство
О чём код?
#!/bin/bash set -xe pip install -r requirements.txt for plugin in "torch_ddp" "torch_ddp_fp16" "gemini" "low_level_zero"; do torchrun --standalone --nproc_per_node 2 benchmark.py --plugin $plugin --model_type "bert" torchrun --standalone --nproc_per_node 2 benchmark.py --plugin $plugin --model_type "albert" done