책 [밑바닥부터 시작하는 딥러닝] - 3

3장_ 신경망

#신경망

퍼셉트론의 장점 : 복잡한 함수로 표현할 수 있다.
퍼셉트론의 단점 : 가중치를 설정하는 작업(원하는 결과를 출력하도록 가중치 값을 적절히 정하는 작업)은 여전히 사람이 수동으로 해야한다.

→ 신경망의 등장

신경망의 중요한 성질 : 가중치 매개변수의 적절한 값을 데이터로부터 자동으로 학습하는 능력이 있다.

#퍼셉트론과 신경망의 차이 (스크랩한 내용)

앞에서 설명한 퍼셉트론 알고리즘은, 비선형적인 문제를 풀 수 없다는 한계가 있다. 따라서 선형분리가 불가능한 문제는 퍼셉트론 한개가 아니라, 퍼셉트론을 여러개를 조합하는 신경망 알고리즘으로 풀 수 있다. (퍼셉트론 알고리즘과 신경망 알고리즘)

→ 즉, 퍼셉트론 여려개가 조합된 것이 신경망 알고리즘이라고 할 수 있다.

단순 퍼셉트론 : 단층 네트워크에서 계단 함수(입계값(=특정수치)을 경계로 출력이 바뀌는 함수)를 활성화 함수로 사용한 모델을 가리킨다
다층 퍼셉트론 : 신경망(여러 층으로 구성되고 (시그모이드 함수 등등 처럼) 매끈한 활성화 함수를 사용하는 네트워크) 을 가리킨다!

※ 뉴런 과 노드는 같은 뜻이다.

#신경망의 구성

• 입력층, 은닉층, 출력층으로 구성되어있어.

#신경망 층 수

• 입력층, 은닉층, 출력층을 갖는 신경망은 3층으로 구성되어있지만, 가중치를 갖는 층은 2개층이기 때문에 2층 신경망이라고도 한다. 또, 파이썬 배열의 인덱스도 0부터 시작하기 때문에 0층, 1층, 2층으로 표현하면 나중에 구현할 때 짝짓기가 편하다.