본문 바로가기

Deep learning2

아주 쉽게 이해하는 Image Classification computer vision 의 가장 대표적인 task 중 하나인 Image classification! 내가 이해하고 있는 classification에 대해 설명해보려고 한다. 나는 개별적인 이론을 이해하는 것이 어렵진 않았지만, 전체적인 흐름과 실질적인 모델의 학습 원리를 뒤늦게 깨우쳤기에... 딥러닝 모델이 어떻게 작동하는지를 중심으로 설명하고자 한다! Image Classification 이란? Image Classification(이미지 분류)는 computer vision task중 하나로, 이미지 내용을 기반으로 이미지를 분류하고 레이블을 지정하는 과정을 말한다. 가장 쉬운 예시를 들자면, 강아지와 고양이를 분류하는 문제에서 아래의 이미지가 둘 중 무엇인지를 판별하는 것이다. 물론, 위의 예.. 2024. 1. 29.
경량화: Pruning(가지치기) 기법 Pruning 이란? 모델의 크기를 줄이고 계산량을 감소시키기 위해 불필요한 가중치 혹은 레이어를 제거하는 기법 Why pruning? Traning operations 감소: Pruning을 통해 일부 가중치 또는 연결이 제거되면 연산량이 감소하게 됩니다. 이로 인해 forward 및 backward 연산이 더 빠르게 수행될 수 있습니다. Training memory 감소: 제거된 가중치에 대한 메모리를 절약할 수 있습니다. 이는 GPU 메모리 사용량을 줄이고, 더 큰 배치 크기를 사용하거나 다른 복잡한 모델을 실험할 수 있게 해줍니다. Sparsity로 인한 Inference Acceleration: Pruning에 의해 희소한 모델이 만들어지면, 추론 시에 0에 해당하는 가중치들이 곱셈 연산에서 제.. 2024. 1. 27.