Develop me

Activation FunctionNeural Network의 각 layer는 Activation Function을 사용하여 layer를 통과한 output을 변환하고,이 변환된 output을 다음 layer로 전달합니다. Activation Function은 비선형성을 추가하여 Neural Network가 복잡한 패턴과 관계를 학습할 수 있도록 해줍니다.  Activation Function을 사용하는 이유Activation Function이 없으면 Neural Network의 모든 layer는 선형 변환만을 수행하게 되며, 이는 Linear Regression과 같은 단순한 모델과 다른 점이 없습니다. 결과적으로, DNN을 구성하더라도 복잡한 문제를 해결할 수 없습니다.즉, layer를 겹겹히 쌓더..

요약ResNet(Residual Network)은 2015년 He et al.에 의해 제안된 Deep Learning 모델로,Deep Neural Network 에서의 학습 문제를 해결하기 위해 도입되었습니다.ResNet은 전통적인 CNN(Convolutional Neural Network)에서 residual connection이라는 개념을 사용하여매우 깊은 네트워크에서도 효과적으로 학습할 수 있습니다.ResNet은 Object Detection, Classification 등 다양한 Computer Vision Task에서 널리 사용됩니다.말이 어려워 보이지만, Output에 Input을 Short cut으로 연결하여 학습을 수행하는 간단한 구조를 가집니다.기존 CNN의 문제점CNN은 깊이가 깊어질수..