project/language modeling
Pre-training & Fine tuning
minty_y
2023. 2. 6. 20:40
반응형
https://velog.io/@soyoun9798/Pre-training-fine-tuning
Pre training & Fine tuning
Pre-training 사전 학습 모델이란 기존에 자비어(Xavier) 등 임의의 값으로 초기화하던 모델의 가중치들을 다른 문제(task)에 학습시킨 가중치들로 초기화하는 방법이다.
velog.io
반응형