[한국공공정책신문=최진실 기자]
◇ 피드포워드 신경망이란?
피드포워드 신경망(Feed forward Neural Network)은 신경망 중에서도 가장 기본적인 유형으로 정보가 한 방향으로만 흐르는 네트워크로 딥러닝에 사용한다. 기본적인 신경망으로 이미지 및 음성인식과 같은 복잡한 작업에 할당한다. AI나 기계학습 분야에서 널리 사용되고 있으며, 특히 패턴 인식 및 분류 문제에 적합하다.
◇ 피드포워드 신경망 개요
피드포워드 신경망(Feed forward Neural Network)은 정보가 네트워크 내를 한 방향으로 흐르는 네트워크 구조를 갖고 있다. 이를 통해 데이터가 입력층에서 출력층으로 차례로 처리되는 구조이다. 다음의 3개의 층으로 구성되어 있다. ① 입력층(Input Layer)이다. 입력층은 외부에서 데이터를 받는 층이다. 각 노드(node : neuron)가 입력 데이터의 다른 특징을 받는다. ② 은닉층(Hidden Layer)이다. 은닉층은 입력층과 출력층 사이에 위치한 층으로 데이터를 처리하여 특징을 추출한다. 복수의 은닉층을 가지는 네트워크는 ‘심층뉴럴네트워크(Deep Neural Network)’라고 부른다. ③ 출력층(Output Layer)이다. 출력층은 최종적인 예측 결과나 분류 결과를 제공하는 층이다. 여기서 얻을 수 있는 결과가 입력 데이터에 대한 네트워크의 응답이다.
*참고) 노드(node)는 통신망의 분기점ㆍ결절점(結節點) 또는 단말장치의 접속점이고, 뉴런(neuron)은 신경 세포와 이로부터 돌기한 신경섬유의 총칭이다.
◇ 피드포워드 신경망의 구조
① 데이터 전파(Propagation)다. 입력 데이터가 입력층에 전달되면 데이터는 은닉층을 통과하면서 계산이 이루어진다. 각 노드에서 가중합계와 활성화 함수를 이용하여 데이터가 처리된다. 최종적으로 출력층에서 예측 결과를 얻을 수 있다. ② 활성화 함수(Activation Function)다. 활성화 함수는 노드(node, )의 출력을 결정하는 데 사용되는 함수이다. 일반적인 활성화 함수에는 시그모이드 함수(Sigmoid function)나 ReLU(Rectified Linear Unit) 등이 있다. ③ 파라미터 학습(Training)이다. 네트워크의 파라미터(무게나 바이어스)는 트레이닝 데이터를 이용해 조정한다. 오차를 최소화하기 위해 백프로파게이션(Backpropagation)이라고 불리는 알고리즘이 사용된다. 이를 통해 네트워크가 보다 정확한 예측을 할 수 있게 된다.
*참고1) 시그모이드 함수(Sigmoid function)는 좌표점(0, 0.5)을 기점(변곡점)으로 점대칭이 되는 S자형의 매끄러운 곡선으로 「0」~「1」 사이의 값을 반환하는 신경망의 활성화 함수를 가리킨다.
*참고2) ReLu(Rectified Linear Unit)은 정류한 선형 유닛이라고 해석할 수 있다. Simgoid function은 0에서 1 사이의 값을 가지는데 gradient descent를 사용해 Backpropagation 수행 시 layer를 지나면서 gradient를 계속 곱하므로 gradient는 0으로 수렴하게 된다.
*참고3) 파라미터(Parameter)는 ‘컴퓨터의 프로그램에 대해서, 처리의 내용을 동적으로 결정할 목적으로 외부로부터 주는 값’이다.
◇ 피드포워드 신경망의 장점
① 심플한 구조다. 기본적인 신경망 때문에 이해하기 쉽고 설계 및 구현이 비교적 간단하다. ② 광범위한 응용이다. 이미지 인식, 음성인식, 텍스트 분류 등 많은 분야에서 사용되고 있다.
이규철 / 법학박사(상법)
∙ AI·GPT, SDGs&ESG 코치 및 강사
∙ 100세대학 크리에이터 및 칼럼니스트
∙ 생성AI와 챗GPT, SDGs·ESG경영전략,
글로벌 MBAtoCEO, 리더의 필승전략,
100세대학 행복디자인 매뉴얼 등 27권
∙ 일본(와세다대),중국(복단대·화동정법대)