텐서플로우 DNN,CNN 등 기본 튜토리얼 github 에 공유함.
tensorflow 공식 홈페이지의 sample 코드 위주로 가능한 한글 주석을 첨가 할 예정.
...
2017년 8월 10일 목요일
2017년 8월 2일 수요일
합성곱 신경망(convolutional neural network)
1. CNN 신경망이란
- 합성곱계층 과 폴링계층이 추가된 신경망 구조를 가지며, 3차원 데이터 같이 입체적인 데이터가 흐른다. 이미지를 예로 들면 가로,세로,채널(색상)으로 구성된 3차원 데이터 인데 이전까지의 완전연결 계층에서는 3차원 데이터를 평평한 1차원 데이터로 바꾸어 입력 하였지만 CNN에서는 3차원 형상정보를 그대로 입력하여 3차원에 담겨있는 정보를 같이 비교 하게 된다. CNN에서는 입출력 데이터를 입력,출력 특징맵 (feature map)이라고 한다.
2. 합성곱(Convolutional)
...
신경망 학습 개선 방법
1. 에폭 (epoch)
1에폭은 학습에서 훈련데이터를 모두 소진 했을 때의 횟수에 해당 한다. 훈련데이터가 6만개 있다면 미니배치로 100개씩 배치 하였을 때 경사하강법으로 600회 반복하면 100 * 600 = 6만개 가되어 1에폭이 된다.
2. Affine(어파인) 계층
신경망의 순전파 때 수행하는 행렬의 내적을 어파인 변환이라 한다. 행렬의 내적을 수행하는 계층을 이르는말
2. 최적화 방법(매개변수 갱신법)
- SGD(확률적 경사 하강법) : 일반적으로...
2017년 7월 26일 수요일
신경망의 학습과정
1. 신경망의 학습
신경망의 학습이란 학습데이터를 가지고 신경망의 가중치 와 바이어스를 업데이트 하여 오차를 줄이고 원하는 결과값을 얻을 수 있도록 하는 기법이다.
2. 오차의 역전파
신경망의 학습 과정을 통해 입력데이터에 대한 결과를 가지고 정답과 비교한 오차를 출력층 -> 은닉층으로 순전파의 반대 방향으로 가중치를 업데이트 해 나가는 방법을 말한다.
3. 손실함수(비용함수,오차함수)
여러 이론책에 다양하게 표현되나 같은 뜻을 가지고 있다. 신경망의...
신경망의 추론과정
1. 신경망의 순전파
입력층에서 들어오는 데이터는 각각의 가충지를 곱하고 바이어스를 더하여 은닉층의 노드로 전달되며, 전달된 값은 활성함수를 통해 출력된다. 이를 수치로 나타내면 다음과 같다.
가중합 : v = w1x2 + w2x2 + .... + b (바이어스) = wx + b
출력 : y = φ(v) = φ(wx + b) φ = 활성함수
2. 활성함수
뇌의 뉴런은...
