300x250 딥러닝 신경망 원리2 경사하강법 비용함수(cost) 이해하기 이번 포스팅은 경사하강법과 함께 지난 포스팅에서 다뤘던 신경망에 대해서 좀 더 자세히 분석해 보는 것으로, 지난 포스팅과 내용이 이어집니다. 딥러닝 인공 신경망과 뉴런의 구조 원리 개념 짚기 목표 : 손글씨로 적은 숫자 인식 입력층 28x28픽셀로 이루어진 숫자 이미지의 각 픽셀은 0~1 사이의 밝기를 의미하며, 이들이 입력층의 784개 뉴런을 형성하고 뉴런의 활성치를 결정한다. 은닉층 다음 층의 각 뉴런의 활성치는 sum(가중치x이전 층의 활성치)과 bias에 의해서 결정된다. 이 합계에 ReLU 함수를 취한다. 결론적으로 임의로 설정한 두 개의 은닉층은 13,000여개의 가중치와 bias를 가지고 있으며, 이 값들이 신경망이 실제로 어떻게 작동하는지를 결정한다. 출력층 신경망이 주어진 숫자를 분류할 .. 2023. 4. 4. 딥러닝 인공 신경망과 뉴런의 구조 원리 개념 짚기 숫자 3이 있다고 하자. 28 x 28의 저해상도 이미지일지라도, 삐뚤빼뚤하게 작성된 글자일지라도, 밝기가 달라지더라도 우리의 뇌(구체적으로는 시각피질, visual cortex)는 숫자 3을 금방 인식해낸다. 하지만, 28x28 입력값을 받아서 0~9 범위의 정수 값 하나를 내는 프로그램을 내라고 한다면? 굉장히 어려워진다. 이 숫자를 판별하는 문제를 기반으로, 신경망이 구체적으로 무엇인지, 수학으로서 신경망이 뭔지. 신경망 구조가 만들어진 토대와, 학습에 대한 의미를 살펴보자. 뇌와 신경망의 유사점, '뉴런' 입력층 이 숫자 판별 문제에서 뉴런은 0.0~1.0 사이의 숫자를 하나만 담는다. 이미지의 28x28 픽셀을 입력으로 취하는 신경망에는 총 784개의 뉴런들이 있을 것이고, 뉴런의 숫자는 각 .. 2023. 4. 4. 이전 1 다음