AI/주워들은 것들
Transfer Learning
아인샴
2021. 11. 7. 22:46
https://www.youtube.com/watch?v=yofjFQddwHE
-Transfer learning (전이학습)
- x,y쌍을 학습시킨다 x는 이미지, y는 라벨
- 신경망의 마지막 출력층을 삭제하고 마지막 레이어에 대해 무작위로 초기화된 세트를 만든다. ex)x-ray결과같은거
- x방사선이미지 y예측질병 , 마지막층의 가중치와 바이어스 를 재훈련시킨다. 앞부분의 줄기는 그대로 가져감
- Rule of Thumb ; 경험의 법칙 ;과학적사실이 아닌 경험에 바탕한 결정이란 뜻 (기존에 학습된 부분을 비유하는 것 같음)
- 이미지인식에서의 첫번재 훈련단계는 pretrained 라고 함
- 이것을 모두 갱신한 뒤 방사선데이터에 대해 훈련하는 세부조정을 fine tuning이라고 함
- 학습레이어의 앞부분은 로우레벨로 인식하는 부분이다. 윤곽이나 커브를 감지하는 부분인데 이것 여러방향에서 활용될 수 있음. . 방사선의학에서도 활용될 수 있는 이유임.
- TL 쓰려고 할때 :
- 추론할 데이터는 많은데 '그에 비해' 학습할 데이터가 적을 때 씀
조건 : A- >B 전이학습 - \같은 input x를 가져야함. 전이할 정도로 A가 많은 데이터로 학습된 형태여야 함
- 추론할 데이터는 많은데 '그에 비해' 학습할 데이터가 적을 때 씀
-다음엔 이걸 들을 예정이다.'
- https://www.youtube.com/watch?v=UdXfsAr4Gjw