인공지능 입문 기말고사 대비 복습 통합 가이드

인간의 뇌와 신경세포의 구조 및 동작 원리

• 인간 지능에 대한 근본적인 질문

  • 인간은 어떻게 높은 지능을 가지고 고등한 사고를 하게 되었는가?
  • 동물은 왜 인간과 같은 창의적인 활동을 할 수 없는가?
  • 아인슈타인($Einstein$)이나 뉴턴($Newton$)과 같은 천재들의 뇌는 보통 사람과 어떤 차이가 있는가?
  • 인간의 지능은 여전히 수수께끼로 남아 있는 부분이 많다.

• 뇌($brain$)의 물리적 특징 및 역할

  • 인간의 뇌는 무게가 약 $1,500\,g$에 불과하다.
  • 근육이나 뼈가 없는 거대한 단백질 덩어리이다.
  • 말하기, 행동하기 등 모든 신체 과정을 통제, 지휘, 조정한다.

• 뇌의 구조와 기능 분담

  • 대뇌: 정신 활동의 중심이며 기억과 감각을 관리한다. 인간의 뇌가 동물의 뇌와 가장 큰 차이를 보이는 부분은 대뇌 피질이며, 인간은 이 부분이 매우 발달하여 많은 주름을 가지고 있다.
  • 간뇌: 체온, 혈당, 삼투압 조절을 담당한다.
  • 중뇌: 눈의 운동 조절을 담당한다.
  • 소뇌: 신체 균형 유지를 담당한다.
  • 연수: 호흡, 심장박동, 소화 운동 등을 조절한다.
  • 척수: 흥분 전달로이자 반사 중추 역할을 한다.

• 신경세포(뉴런, $neuron$)의 구조와 신호 전달 메커니즘

  • 뇌의 대부분은 신경세포 덩어리로 이루어져 있으며, 약 $1,000$억 개의 신경세포가 존재한다. (최근 연구에 따르면 약 $860$억 개라고도 함)
  • 신경세포 간의 연결 가지인 시냅스는 약 $100$조 개에 달하는 것으로 알려져 있다.
  • 주요 구조: 세포핵, 수상돌기, 축삭, 축삭 말단으로 구성된다.
  • 신호 전달 과정:
    1. 수상돌기: 다른 신경세포로부터 외부 자극(입력 신호)을 전달받는다.
    2. 세포체: 입력된 외부 자극의 합($sum$)의 크기를 판단한다.
    3. 임계값($threshold$): 신호의 합이 특정 임계값보다 클 경우 뉴런이 반응한다.
    4. 축삭 말단: 활성화된 신호를 다른 신경세포로 전달한다.
  • 신경세포는 나트륨($Na$), 칼륨($K$) 등의 물질을 이용한 화학적 신호 전달 방식을 사용한다.

퍼셉트론: 생물학적 뉴런의 공학적 모델

• 인공 신경세포와 퍼셉트론($perceptron$)

  • 생물학적 뉴런의 동작 원리를 모방한 프로그램을 컴퓨터 과학에서는 인공 신경세포 또는 퍼셉트론이라고 부른다.
  • 연결 구조와 동작을 완벽히 재현하면 인공뇌($artificial\ brain$) 구현이 가능할 것으로 기대된다.

• 퍼셉트론의 수학적 구조

  • 입력($x_1, x_2$): 외부 자극을 수치값으로 할당한 노드이다.
  • 가중치($weight, w_i$): 외부 자극에 곱해지는 파라미터이다.
  • 가중합($\sigma$): 입력과 가중치의 곱을 모두 합산한 값이다. $w_1x_1 + w_2x_2$ 또는 $\sum w_ix_i$로 표기하며 간단히 $\sigma$로 나타낸다.
  • 활성화 함수($\phi(\cdot)$ ): 합산된 신호가 임계치를 넘었는지 판단하여 출력 여부를 결정한다.

• 논리 회로와의 연결

  • OR 회로: 입력 $x_1, x_2$가 $0$ 또는 $1$일 때, 가중치를 각각 $2, 2$로 가정하고 임계치를 $2$로 설정하면, 둘 중 하나만 $1$이어도 신호가 전달된다.
  • 논리 게이트($logic\ gate$): 컴퓨터는 $0$과 $1$을 조합하여 AND, OR, NOT 연산을 수행하는 전자기 회로(논리회로)를 통해 동작한다.

• 조지 부울($George\ Boole$)과 부울 대수($Boolean\ Algebra$)

  • 참($1, True$)과 거짓($0, False$)의 명제만이 존재하는 대수 공간이다.
  • 디지털 회로에서는 전압의 높고 낮음($High/Low$)으로 정보를 표현하는 이론적 근거가 된다.

인공적인 신경세포 연산 및 학습 원리

• 신경 회로를 이용한 논리 연산

  • 논리곱(AND, $\wedge$ ): 입력 $x, y$가 모두 $1$일 때만 출력 신호가 활성화된다. 임계치가 $2$라면 가중치 합이 $2$에 도달해야 한다.
  • 논리합(OR, $\vee$ ): 입력 $x, y$ 중 하나라도 $1$이면 출력된다. 입력값이 분기되어 전달될 경우 하나의 $1$이 $2$라는 신호값 효과를 낼 수도 있다.
  • 매컬러($McCulloch$)와 피츠($Pitts$)의 연구는 신경세포 모방을 통해 기계적 계산이 가능함을 입증했다.

• 신경망의 학습($Learning$)

  • 의의: 초기 모델은 학습 기능이 없어 복잡한 연결을 일일이 설계해야 하는 문제가 있었다.
  • 학습의 정의: 연결 강도인 가중치($weight$)를 조정하는 과정이다.
  • 과정: 출력을 목표치($target$)와 비교하여 오차($error$)를 계산하고, 이 오차를 줄이는 방향으로 가중치를 변경한다.
  • 최적화($optimization$): 오차 범위 이내의 목표값에 도달하기 위해 입력에 곱해지는 가중치 값을 찾아내는 과정이다.

• 행렬 표현법($Matrix\ Representation$)

  • 입력 벡터 $X$와 가중치 벡터 $W$의 행렬 곱을 통해 가중합을 간편하게 구할 수 있다.
  • 식: $A = XW$
  • 예: AND 연산 구현 시 가중치 $W$를 $\begin{pmatrix} 1.0 \\ 1.0 \end{pmatrix}$과 같은 열 벡터로 두고, 활성화 함수에서 $1.0 \ge 2.0$ 조건(거짓) 등을 검사한다.

퍼셉트론의 한계와 다층 퍼셉트론(MLP)

• XOR 문제와 제1차 인공지능 겨울

  • 배타적 논리합(XOR): 입력 $x, y$가 서로 다를 때($(0, 1), (1, 0)$)만 $1$을 출력한다.
  • 증명: 마빈 민스키($Marvin\ Minsky$) 교수는 단순 퍼셉트론이 XOR 연산을 구현할 수 없음을 증명했다.
  • 원인: 퍼셉트론의 출력은 가중치가 곱해진 선형 함수($linear\ function$) 형태이므로, 직선 하나로는 평면상의 XOR 데이터를 분리할 수 없다(선형 분리 불가능).
  • 이로 인해 $1970$년대 인공지능 연구가 침체되는 제1차 인공지능 겨울($The\ 1st\ AI\ winter$)이 발생했다.

• 다층 퍼셉트론($Multi-Layer\ Perceptron: MLP$)

  • 해결책: 입력층과 출력층 사이에 보이지 않는 비가시층인 은닉층($hidden\ layer$)을 추가한다.
  • 구조: 입력 노드와 출력 노드로 구성된 가시층($visible\ layer$) 사이에 은닉층을 두어 표현력을 높인다.
  • 원리: OR, NAND, AND 연산을 조합하여 XOR 연산 결과를 얻을 수 있다. (NAND는 AND 결과에 NOT을 취한 것)
  • 은닉층이 증가할수록 비선형 문제 해결 능력이 강화된다.

• 딥러닝($Deep\ Learning$)의 등장

  • 제프리 힌턴($Geoffrey\ Hinton$) 교수는 많은 은닉층을 가진 깊은 신경망도 효율적으로 학습시킬 수 있음을 입증했다.
  • 과거 인공 신경망에 대한 부정적 인식을 피하기 위해 '딥러닝'이라는 용어를 사용하기 시작했다.
  • 심층 신경망 수치 예시:
    • VGG16: 약 $1$억 $3,800$만 개의 가중치 보유
    • InceptionResNetV2: $572$개의 층($layer$)으로 구성

이미지 인식 데이터셋과 성능 검증

• MNIST 데이터셋

  • 정의: 손글씨 숫자로 구성된 DB로, Modified National Institute of Standards and Technology의 약자이다.
  • 구성: $0 \sim 9$까지의 숫자 이미지가 학습용 $6$만 개, 테스트용 $1$만 개로 구성된다.
  • 특징: $28 \times 28$ 픽셀의 회색조 이미지이며, 가운데 정렬 및 크기 균일화 등 전처리가 잘 되어 있다.

• 학습 데이터와 테스트 데이터의 분리

  • 학습 데이터에만 최적화되어 새로운 데이터에서 성능이 떨어지는 현상을 방지해야 한다.
  • 일반화($Generalization$): 학습되지 않은 데이터에서도 좋은 성능을 내는 능력이다.
  • 모의고사 문제집(학습 데이터)만 공부하여 실제 시험(테스트 데이터)을 치르는 과정에 비유할 수 있다.

• 기타 데이터셋

  • Fashion-MNIST: 숫자보다 복잡한 옷, 신발 이미지 데이터셋 ($6$만 개 훈련 / $1$만 개 테스트)
  • Iris(붓꽃) 데이터셋: $1930$년대 로널드 피셔($Ronald\ Fisher$)가 소개한 고전 데이터이다. 붓꽃의 $3$가지 종($Setosa, Versicolor, Virginica$)을 분류하며, 총 $150$개의 데이터를 포함한다. 특징($feature$)으로는 꽃받침의 길이/너비, 꽃잎의 길이/너비를 사용한다.

이미지넷(ImageNet)과 대규모 시각 인지 경진대회(ILSVRC)

• 컴퓨터 비전($Computer\ Vision$)

  • 카메라를 통해 영상 이미지를 취득하고 알고리즘으로 분석/판별하는 기술이다.
  • 자율주행 자동차의 핵심 기술(도로, 신호등, 보행자 인식)이다.

• 이미지넷 프로젝트

  • 주도: 스탠퍼드 대학교 페이페이 리($Fei-Fei\ Li$) 교수 연구진.
  • 규모: $2$만 개 이상의 범주, $1,500$만 장 이상의 방대한 이미지 DB이다.
  • 구축 방식: 아마존($Amazon$)과 협업하여 전 세계 $167$개국 $5$만 명의 작업자가 수동으로 분류(라벨링) 작업을 수행했다.

• ILSVRC 경진대회

  • $2010$년부터 매년 개최된 시각 인지 경진대회이다.
  • $2010\, \sim\, 2011$년까지는 고전적 머신러닝 알고리즘이 사용되었으며 인식 오차는 약 $26\, \sim \, 28\%$ 수준이었다.
  • AlexNet의 등장($2012$): 알렉스 크리제프스키($Alex\ Krizhevsky$)가 개발한 합성곱 신경망($CNN$) 모델이 인식 오차를 전년 대비 $10\%$ 이상 대폭 낮추며 압도적 성적으로 우승했다.
  • 인적 오류율: 인간의 이미지 인식 오류 수준은 약 $5\%$로 알려져 있다.
  • 성과: $2015$년부터는 인공지능이 인간의 오차율보다 낮은 성능($96.4\%$ 인식률)을 보였으며, $2017$년 최종 대회에서는 $97.7\%$의 인식률을 달성했다.

합성곱 신경망(CNN: Convolutional Neural Network)

• CNN의 원리

  • 기존 신경망은 이미지를 $1$차원 배열로 펼쳐서 처리하여 위상 구조가 소멸되는 문제가 있었다.
  • 생물학적 영감: 데이비드 허블($David\ Hubel$)과 토르스튼 위즐($Torsten\ Wiesel$)의 고양이 실험을 통해 시각 피질의 뉴런이 특정 영역(수용장, $receptive\ field$)에만 반응한다는 사실을 발견했다.

• 뇌의 시각 정보 처리 단계

  1. V1 영역: 모서리와 직선 인식
  2. V2 영역: 형상 인식
  3. V3 영역: 객체 인식
  4. IT 영역: 추상적인 사물(예: 비행기)로 최종 인식

• 합성곱($convolution$) 연산

  • 커널/필터($kernel/filter$): $n \times m$ 크기의 작은 행렬을 사용하여 이미지 전체를 훑으며 특징을 추출한다.
  • 장점: 입력 데이터의 기하학적 관계를 유지하며 전처리가 거의 필요 없다. 수동적인 특징 추출($feature\ engineering$) 단계가 불필요하다.
  • 계층적 특징 추출: 낮은 단계 필터에서 선과 모서리를 찾고, 높은 단계 필터에서 복잡한 구조를 조합하여 숫지 '3'이나 비행기 같은 사물을 분류한다.

• 실제 응용: 구글 포토($Google\ Photos$)

  • $2015$년 서비스 시작, 전 세계 $10$억 명 이상 사용.
  • 심층 신경망을 사용하여 사용자 사진에 레이블링 작업을 자동으로 수행한다.
  • 정보 추출: 날짜, 시간, 위치($GPS$), 랜드마크, 로고, 텍스트 등을 종합 학습하여 특정 이벤트(휴일, 생일 등)를 구분한다.
  • 데이터셋: 구글, 카네기멜런대, 코넬대가 공동 구축한 '오픈 이미지 데이터셋'($900\text{만 개 이상의 이미지}$)을 활용한다.