Transfer Learning & Fine Tuning

A라는 목적을 위해 학습된 모델을 B라는 목적을 위해 재학습하는 개념전이학습(Transfer Learning)이라고 한다.

이 때 재학습을 한다는 것은 기존의 학습된 파라미터(weight)를 변경하는 것을 말하는데, 이렇게 재학습을 위해 실제로 파라미터를 업데이트하는 과정파인튜닝(Fine Tuning)이라고 한다.

파인튜닝을 할 때는 전체 모델을 학습할 수도 있지만 전체 모델 중 일부(예를 들어 Feature Extractor-Classifier에서 전자의 일부와 후자)만 학습할 수도 있다.

아래는 파인튜닝의 세 가지 전략이다!

Leave a Reply

Your email address will not be published. Required fields are marked *