신경망이란 무엇인가?

인공 신경망(ANNs)이란?

최근의 많은 인공지능의 발전은 인공 신경망에 의해 추동된다. 인공 신경망(ANNs)은 인간의 뇌에서 발견되는 신경망과 유사한 형식으로 결합된 수학적 함수의 연결이다. 이러한 ANN은 복잡한 패턴을 데이터에서 추출하고, 이러한 패턴을 미지의 데이터에 적용하여 데이터를 분류/인식할 수 있다. 이렇게 기계는 “학습”한다. 이것은 신경망에 대한 간단한 개요이지만, 신경망을 더 잘 이해하기 위해 신경망을 더 자세히 살펴보자.

다층 퍼셉트론 설명

더 복잡한 신경망을 살펴보기 전에, 우리는 인공 신경망의 간단한 버전인 다층 퍼셉트론(Multilayer Perceptron, MLP)을 살펴보겠다.

공장의 조립 라인을 상상해보자. 이 조립 라인에서 한 작업자가 아이템을 받고, 약간의 조정을 하고, 다음 작업자에게 넘긴다. 이 과정은 마지막 작업자가 아이템을 완성하고 공장 밖으로 내보내는까지 반복된다. 이 비유에서 조립 라인은 여러 “층”으로 구성되며, 제품은 한 층에서 다른 층으로 이동한다. 또한 조립 라인은 입구와 출구가 있다.

다층 퍼셉트론은 매우 간단한 생산 라인으로 생각할 수 있다. 이는 총 3개의 층으로 구성된다: 입력 층, 은닉 층, 출력 층. 입력 층은 데이터가 MLP에 입력되는 곳이며, 은닉 층에서는 일부 “작업자”가 데이터를 처리한 후 출력 층으로 넘긴다. 출력 층은 외부 세계에 결과를 제공한다. 다층 퍼셉트론의 경우, 이러한 작업자는 “신경 세포” 또는 “노드”라고 하며, 데이터를 처리할 때 수학적 함수를 통해 조작한다.

네트워크 내에는 노드와 노드를 연결하는 구조가 있는데, 이를 “가중치”라고 한다. 가중치는 데이터가 네트워크를 통해 이동할 때 노드 간의 관계에 대한 가정이다. 즉, 가중치는 한 노드가 다른 노드에 미치는 영향의 수준을 반영한다. 가중치는 현재 노드를 떠날 때 “활성화 함수”를 통과하며, 이는 데이터를 변환하는 수학적 함수이다. 활성화 함수는 선형 데이터를 비선형 표현으로 변환하여 네트워크가 복잡한 패턴을 분석할 수 있도록 한다.

인공 신경망이란 용어에서 인간의 뇌와 유사한 점은, 인간의 뇌를 구성하는 신경 세포가 인공 신경망의 노드와 유사한 방식으로 연결되어 있다는 것이다.

다층 퍼셉트론은 1940년대부터 존재했지만, 몇 가지 제한으로 인해 특히 유용하지 않았다. 그러나 지난 몇十년 동안 “역전파”라 불리는 기법이 개발되어 네트워크가 신경 세포의 가중치를 조정하여 더 효과적으로 학습할 수 있게 되었다. 역전파는 신경망의 가중치를 변경하여 실제 데이터 내의 패턴을 더 잘 포착할 수 있도록 한다.

심층 신경망

심층 신경망은 다층 퍼셉트론의 기본 형식을 취하고, 모델의 중간에 더 많은 은닉 층을 추가하여 더 크게 만든다. 따라서 입력 층, 은닉 층, 출력 층이 아니라, 중간에 여러 은닉 층이 존재하며, 한 은닉 층의 출력이 다음 은닉 층의 입력이 된다. 데이터가 네트워크를 통과하여 반환될 때까지 이 과정이 반복된다.

심층 신경망의 여러 은닉 층은 전통적인 다층 퍼셉트론보다 더 복잡한 패턴을 해석할 수 있다. 심층 신경망의 각 층은 데이터의 다른 부분의 패턴을 학습한다. 예를 들어, 입력 데이터가 이미지인 경우, 네트워크의 초기 부분은 픽셀의 밝기 또는 어둠을 해석하고, 후반부의 층은 이미지에서 객체를 인식하는 데 사용할 수 있는 모양과 경계를 찾는다.

신경망의 종류

신경망에는 여러 종류가 있으며, 각 종류의 신경망에는 고유의 장점과 단점이 있다. 위에서 설명한 심층 신경망은 가장 일반적인 유형의 신경망으로, 종종 순방향 신경망이라고 한다.

신경망의 한 가지 변형은 순환 신경망(RNN)이다. 순환 신경망의 경우, 순환 메커니즘을 사용하여 이전 분석 상태의 정보를 유지하므로, 순서가 중요한 데이터를 해석할 수 있다. 순환 신경망은 순차적/연대적인 데이터에서 패턴을 도출하는 데 유용하다. 순환 신경망은 단방향 또는 양방향일 수 있다. 양방향 신경망의 경우, 네트워크는 시퀀스의 후반부뿐만 아니라 초기 부분의 정보도 고려할 수 있다. 양방향 RNN은 더 많은 정보를 고려하기 때문에 데이터에서 올바른 패턴을 더 잘 도출할 수 있다.

합성 신경망은 이미지 내의 패턴을 해석하는 데 특히 유용한 특수한 유형의 신경망이다. 합성 신경망은 이미지의 픽셀에 필터를 적용하여 이미지 내의 픽셀에 대한 수치적 표현을 얻은 다음, 이를 패턴으로 분석한다. 합성 신경망은 합성층이 먼저 이미지에서 픽셀을 추출하고, 그 다음에 밀집한 피드포워드층이 객체를 실제로 인식하는 층이 따라온다.