개미의 개열시미 프로그래밍

전이 학습(Transfer learning)은 직접 코드를 보면서 이해하는 것이 이해하는데 도움이 많이 되었습니다. 실습은 PyTorch.org 사이트에서 전이 학습에 대한 코드를 Colab, Jupyter notebook, GitHub으로 공유하고 있고 이 공유된 코드를 통해 정리를 하려고 합니다. tutorials.pytorch.kr/beginner/transfer_learning_tutorial.html 컴퓨터 비전(Vision)을 위한 전이학습(Transfer Learning) — PyTorch Tutorials 1.6.0 documentation Note Click here to download the full example code 컴퓨터 비전(Vision)을 위한 전이학습(Transfer L..

먼저, 전이학습을 공부하려는 이유는 이번 백마인턴의 주제가 유사 이미지 분류 개발이며 코드의 큰 틀은 전이학습구조로 이루어지기에 과제를 진행하기 위해 꼼꼼히 이해하는 단계가 필요하다고 생각했습니다. 전이학습이란(=Transfer Learning) 정의 : '특정 Task 또는 도메인에서 얻은 모델을 다른 Task에 적용하는 기술을 뜻함' 즉, 이미 dataset(A Task)에 학습이 진행된 pretrained model의 가중치(weight)를 가져와서 다른 dataset(B Task)에 적용을 하는 것으로 이해할 수 있습니다. 전이학습을 사용하는 특징으로는 세가지가 있습니다. 적은 데이터셋을 사용하여 모델 학습 대부분의 경우 전이학습한 모델이 처음부터 쌓은 모델보다 성능이 좋다. 시간이 절약이 된다...

원래는 전이학습을 정리하기 전에 먼저 올려야 순서가 맞지만 이미 Jupyer notebook으로 정리를 했기때문에 빨리 올려보려고 합니다.(복습도 할겸..!) DenseNet정리도 마찬가지로 구글링, 유투브 그리고 논문과 학교에서 지원해준 FastCampus강의를 참고했습니다.. 이번에 백마인턴쉽에서 맞게된 주제는 '유사 이미지 분류'이며 전이학습을 기반으로 하고 전에 설명했던 전이학습의 pre-trained model을 DenseNet을 씁니다. DenseNet은 이전 layer의 feature map을 계속해서 다음 layer의 입력과 연결(Concatenation)하는 방식으로 ResNer과 매우 유사합니다. ResNet과 같이 Pre-Activation구조를 사용하는데(이 구조는 아래에서 더 자세..