/
githubmirror
/
transformers
Обзор
Документация
Войти
/
githubmirror
/
transformers
Код
Запросы
0
Пакеты
0
Релизы
0
Аналитика
Безопасность
main
utils/test_module/custom_modeling.py
20 строк
450 B
Cyril Vallez
Much more efficient and clear weight initialization and tie weights (#42191)
15 ноя 2025, 02:34
Не верифицирован
15 ноя 2025, 02:34
8598421
Код
Авторство
О чём код?
import torch from transformers import PreTrainedModel from .custom_configuration import CustomConfig class CustomModel(PreTrainedModel): config_class = CustomConfig def __init__(self, config): super().__init__(config) self.linear = torch.nn.Linear(config.hidden_size, config.hidden_size) self.post_init() def forward(self, x): return self.linear(x) def _init_weights(self, module): pass