"Full Stack Deep Learning - UC Berkeley Spring 2021” Conditioning의 주요 요소 초기화 (Initialization) 신경망의 가중치를 시작하기 전에 설정하는 방법입니다. 적절한 초기화는 학습 과정의 안정성과 속도에 큰 영향을 미칩니다. 예를 들어, Xavier 초기화나 He 초기화 등이 있습니다. 정규화 (Normalization) 신경망의 학습을 안정화시키고 가속화하는 데 도움을 주는 기술입니다. Batch Normalization: 미니배치의 출력값을 정규화하여 내부 공변량 변화(internal covariate shift)를 줄입니다. Weight Normalization, Layer Normalization: 다른 차원의 정규화 방법으로, 특정 ..
