데이터마이닝-신경망

개념
- 인공신경망(artificial neural networks)으로도 불리는 신경망(neural networks) 모형은 분류와 예측을 위해 사용되는 모형

I.  AI의 예측 및 분류기법인 신경망 알고리즘

가. 신경망 알고리즘의 정의

- 인공신경망(artificial neural networks)으로도 불리는 신경망(neural networks)  모형은 분류와 예측을 위해 사용되는 모형

 

나. 신경망 알고리즘의 특징

- 신경망은 뇌의 뉴런들이 상호작용하고 경험을 통해 배우는 생물학적 활동을 모형화 한 것

- 신경망의 학습 및 기억 특성들은 인간의 학습과 기억의 특성을 닮았고 특정 사건으로부터 일반화하는 능력도 또한 갖고 있음

- 일반적으로 신경망의 가장 큰 장점은 높은 예측 성과에 있음

 

II.  신경망 알고리즘의 개념도 및 구성요소

가. 신경망 알고리즘의 개념도

나. Multilayer Perception의 구성요소

계층

주요내용

입력층

각 입력변수에 대응되는 마디들로 구성되어 있다. 명목형(nominal) 변수에 대해서는 각 수준에 대응하는 입력마디를 가지게 되는데, 이는 통계적 선형모형에서 가변수 (dummy cariable)를 사용하는 것과 같다

은닉층

여러 개의 은닉마디로 구성되어 있다. 입력층으로부터 전달되는 변수값들의 선형결합 (linear comvination)을 비선형함수(nomilnear function)로 처리하여 출력층 또는 다른 은닉층에 전달한다

출력층

목표변수(target)에 대응하는 마디들을 갖는다. 여러 개의 목표변수 또는 세 개 잇아의 수준을 가지는 명목형 목표변수가 있을 경우에는 여러 개의 출력마디들이 존재한다

 

다. 신경망 알고리즘의 분류

1) 계층수 : 단층 구조, 다층 구조

2) 출력 형태 : 순방향 구조, 순환 구조

3) 데이터 유형 : 디지털, 아날로그

4) 학습 방법 : 지도 학습, 자율 학습, 경쟁식

5) 활성화 함수 : 단극성, 양극성

 

라. 신경망 알고리즘의 학습과정

학습방법

학습과정

지도학습

1) 응용 목적에 적절한 신경망 구조를 설계한다.

2) 연결 강도를 초기화 한다.

3) 학습 패턴쌈 (x,d)를 입력하여 신경망의 출력 y를 구한다.

4) 출력 y랑 목표치 d를 비교해서 오차를 산출한다.

5) 오차를 학습 신호 발생기에 입력해서 연결강도 변화량 △w를 구한다.

6) 연결강도를 △w만큼 변경한다.

7) 변화단 연결 강도에 대해서 3~6 단계를 반복한다.

8) 더 이상 연결 강도가 변하지 않으면 학습을 종료한다.

자율학습

1) 응용 목적에 적합한 신경망 구조를 설계한다.

2) 연결 강도를 초기화한다.

3) 학습 패턴 x를 입력하여 신경망의 출력 y를 구한다.

4) 출력 y를 학습 신호 발생기에 입력하여 연결강도 변화량 △w를 구한다.

5) 연결강도를 △w만큼 변경한다.

6) 변화단 연결 강도에 대해서 3~5 단계를 반복한다.

7) 더 이상 연결 강도가 변하지 않으면 학습을 종료한다.

 

 

III.  신경망의 전파규칙, 활성화 규칙, 학습규칙

가. 신경망의 전파규칙

 

나. 활성화 규칙

- 활성화 규칙: 입력가중합(NET)이 임계치 T보다  큰 경우 활성화 됨

 

 다. 학습규칙

 

라. 신경망의 활용예 (주택판매가격 예측모델)

댓글