인공 신경망이란 무엇인가?
상호 연결된 노드들이 계층 구조를 이루고 가중 연결을 통해 정보를 처리하는 생물학적 신경망에서 영감을 받은 컴퓨팅 시스템
Summary
- 입력층은 데이터를 수신하고, 은닉층은 가중 연결과 활성화 함수를 통해 입력을 변환하며, 출력층은 예측값을 생성하고, 역전파를 통해 학습 과정에서 가중치를 조정합니다.
- 계층적 표현을 자동으로 학습하여 원시 데이터에서 특징을 추출하므로 수동 특징 엔지니어링이 필요 없어 이미지 인식, 자연어 처리, 음성 인식 및 자율 시스템 분야에 적용할 수 있습니다.
- 과적합을 방지하기 위해 대규모 데이터셋이 필요하며, 행렬 연산에 GPU 가속을 활용하고, 이미지 처리에는 컨볼루션 신경망, 시퀀스 처리에는 순환 신경망, 언어 처리에는 트랜스포머와 같은 아키텍 처를 사용합니다.
인공 신경망이란 무엇입니까?
인공 신경망(Artificial Neural Network, ANN)은 사람의 뇌 속 뉴런의 작용을 본떠 패턴을 구성한 컴퓨팅 시스템의 일종입니다.
인공 신경망은 어떻게 작동합니까?
인공 신경망(ANN)은 가중치를 적용한 방향성 그래프라고 보면 가장 적당합니다. 이를 보통 여러 계층으로 구조화합니다. 이러한 계층에는 사람의 뇌 속에 있는 생물학적 뉴런을 모방한 수많은 노드가 있고, 이들이 서로 연결되어 있으며 활성화 함수를 내포합니다. 첫 계층에서는 외부 세상에서 유입된 원시(미가공) 입력 신호가 수신됩니다. 마치 사람이 시각 정보를 처리할 때 시신경을 사용하는 것과 비슷합니다. 이후의 연이은 계층은 각각 앞선 계층에서 보낸 출력을 받는데, 이것은 시신경에서 멀리 떨어진 뉴런이 가장 가까운 곳에 있는 시신경에서 신호를 수신하는 것과 비슷합니다. 각 노드의 출력을 그 노드의 활성화 또는 노드 값이라고 합니다. 마지막 계층에서 시스템의 출력을 도출합니다. ANN은 사실 학습할 줄 아는 수학적 모델입니다. 따라서 그간 ANN을 사용하여 기존 데이터 분석 기술을 보강할 수 있었습니다. ANN은 인공지능(AI), 머신 러닝(ML)과 딥러닝에서 중대한 발전을 이뤄낼 수 있었던 원인 중 하나입니다.
퍼셉트론 인공 신경망
퍼셉트론(Perceptron)은 가장 단순한 유형의 인공 신경망입니다. 이런 유형의 네트워크는 대개 이진법 예측을 하는 데 쓰입니다. 퍼셉트론은 데이터를 선형적으로 분리할 수 있는 경우에만 효과가 있습니다.
Gartner®: Databricks 클라우드 데이터베이스 리더
다층 인공 신경망
완전히 연결된 다층 신경망을 다층 퍼셉트론(Multilayer Perceptron, MLP)이라고도 합니다. 이 유형의 인공 신경망은 하나 이상의 인공 뉴런이나 노드 계층으로 이루어져 있습니다(예를 들어 컨볼루셔널 신경망(Convolutional Neural Network)이나 순환 신경망(Recurrent Neural Network) 등). 다층 ANN은 복잡한 분류나 회귀 작업을 해결하는 데 쓰입니다. 가장 보편적인 모델은 3층 완전 연결형 오차역전파법(backpropagation) 모델입니다. 첫 번째 계층은 입력 뉴런으로 구성되어 있어 이것이 두 번째 계층으로 데이터를 보내고, 그러면 두 번째 계층이 출력 뉴런을 세 번째 계층으로 보냅니다.
이외에 인공 신경망(ANN) 토폴로지는 두 가지가 있습니다. FeedForward와 Feedback입니다.
FeedForward 인공 신경망
이 ANN에서는 정보의 흐름에 방향성이 없습니다. 정보는 한 방향, 전방으로만 이동하며 피드백 루프를 만들지 않습니다. 정보는 맨 먼저 입력 노드를 통과하고, 다음으로 숨겨진 노드(있는 경우)를 통과한 다음 마지막으로 출력 노드를 통과하게 됩니다.
FeedBack 인공 신경망
이 경우, 네트워크에 속한 여러 뉴런 사이에 본질적인 피드백 연결이 존재합니다. 여기에서는 피드백 루프가 허용됩니다.
