책 "신경망 첫걸음"의 Python Code입니다.
책에서는 iPython notebook으로 코드를 작성하고 있고, 저자의 Github에서도 iPython으로 코드가 업로드 되어 있는데, 책 스터디 할때는 python3로 작성해서 테스트 해봤습니다.
책은 신경망에 대한 기본적인 이론과 이 이론을 바탕으로 간단한 3 Laye를 구성해 보고, MNIST를 실습해 보는 내용입니다. 책 제목 그대로 신경망을 이해하기 위한 첫걸음에 좋은 책인것 같습니다.
신경망 구성 내용은 아래와 같습니다.
- 3 Layer Neural Network : Input(784) - Hidden(200) - Output(10)
- Activation Function : Sigmoid
- Deavtivation Function : Logit
- Learning Rate : 0.01
- Additional training : rotating each original by +/- 10 degrees
신경망 학습
- Mnist 학습 Data : 60000
- 주기(epoch) : 10
실행 결과
- Mnist 테스트 Data : 10000
- 정답 비율 출력
- 0에 대한 Network backwards 이미지 출력
performance = 0.9766 total 10000