[빅데이터분석기사 필기] Ⅲ.빅데이터 모델링 - 02. 분석기법 적용 (9) 립러닝 분석

키워드🔑
딥러닝, DNN, 은닉충, 역전파, CNN, 컨볼루션, 피처맵, 서브샘플링, RNN

02. 분석기법 적용

2. 고급 분석기법

5) 딥러닝 분석

(1) 딥러닝

• 딥러닝 ⊂ 머신러닝 ⊂ 인공지능
• 딥러닝(Deep Learning)
  • 여러 비선형 변환기법의 조합을 통해 높은 수준의 초상화를 시도하는 기계학습 알고리즘 집합
  • 추상화(Abstraction): 많고 복잡한 데이터를 핵심 요약
• 딥러닝 부각이유
  • 기울기 소실 해설: 기존 인공신경망 모델의 문제점이었음
  • 분석 시간의 단축: 강력한 GPU를 연산에 활용함 → 하드웨어 연산속도 ↑
  • 데이터 확보 가능: 빅데이터 등장 & SNS 활용 ↑

---

(2) 딥러닝 알고리즘
📌 DNN / CNN / RNN / GAN

• DNN (Deep Neural Network): 은닉층을 심층 구성한 신경망
  • 입력층, 여러 개의 은닉층(Hidden Layer), 출력층으로 이루어진 인공신경망(ANN)
    • 입력층, 가중치를 곱하고, 은닉층으로 이동
    • 은닉층: 가중치를 곱하면서 다음 계층으로 이동
  • 역전파 알고리즘: 출력층, 은닉층, 입력층 순서로 역방향 수행 반복 → 최적화된 결과 도출
    • 일반적인 인공신경망과 마찬가지로, 복잡한 비선형 관계들을 모델링할 수 있음
    • 여러 은닉층을 통해, 더 적은 수의 유닛으로도 복잡한 데이터를 모델링할 수 있게 해줌

---

• CNN (Convolutional Neural Network) (합성곱 신경망): 필터 기능과 신경망을 결합
  • 필터기능(Convolution): 기존 영상처리의 필터 기능을 의미함
  • 필터 기능을 통해 입력이미지에서 특징 추출 → 다층 신경망을 통해 분류 수행
  • 여러 개의 컨볼루션 층(합성곱 층) & 서브샘플링 층(풀링 층)으로 이루어진 인공신경망
  • 입력층 합성곱 연산: 필터로 입력이미지에서 특징(피처) 추출 → 피처맵 구성
    • 피처맵(Feature Map): 이미지 추출 시, 환경변화에 잘 적응하는 강인한 특징을 유도한 2차원 맵(환경변화란 왜곡, 변형 등을 의미함)
  • 피처맵에서 서브샘플링 연산: 피처맵에서 서브샘플링 연산 → 화면 크기 축소
    • 서브샘플링 층(Subsampling): 만들어진 피처맵에 대해 공간적 해상도를 줄인 뉴런층
    • 서브샘플링을 통해, 자원 축소 → 문제 복잡도 축소
    • 연산자: 최대 풀링(Max Pooling) / 최소 풀링(Min Pooling) / 평균 풀링(Average Pooling) 등
    • 최대 풀링은 최대값, 최소 풀링은 최솟값, 평균 풀링은 평균값을 취함
    • 풀링을 통해서 차원 축소 뿐만 아니라, 피처맵이 이동이나 왜곡에 대해 강인해지도록 할 수 있음
  • 피처맵에서 합성곱 & 서브샘플링 반복연산: 반복하여 최적화된 피처맵 구성
  • 완전연결계층에서 다층신경망으로 분류수행: 완전연결계층 → 1차원 행렬 매핑 → 확률로 분류
    • 완전연결계층(Fully Connected Layers)의 다층 신경망에 피처맵을 입력
    • 2차원 이미지를 1차원 행렬로 변환 → 신경망 입력에 하나씩 매핑(Mapping)
    • 분류: Softmax 함수를 이용하여 결과를 확률로 분류(Classification)

---

• RNN(Recurrent Neural Network) (순환 신경망): 은닉층에서 재귀적인 신경망을 가짐
  • 입력층, 은닉층, 출력층으로 구성 / 은닉층에서 재귀적인 신경망을 가지는 알고리즘
    • 유닛간 연결이 순환적인 구조를 가짐
    • 입력받는 신호의 길이가 한정되지 않는 동적인 데이터를 처리함
  • 음성 신호, 연속적 시계열 데이터 등의 순차적인 데이터 분석에 적합
    • 시퀀스 형태의 입력을 처리할 수 있음
    • 필게치 인식 분야에서도 활용됨
  • 문제점: 장기 의존성 문제 / 기울기 소실 문제
    • 장기 의존성 문제(Long-Term Dependency): 현재 노드와 거리가 먼 과거 상태를 사용한 문맥처리가 어려운 문제
  • 확률적 경사 하강법 / 시간 기반 오차 역전파를 사용 → 가중치 업데이트
    • 확률적 경사 하강법(SGD): 손실함수의 기울기 계산 → 조금씩 아래로
      • 손실함수 최소 지점에 도달하도록 하는 알고리즘
    • 시간 기반 오차 역전파: 역전파 알고리즘(Back Propagation)을 통해 비용의 기울기를 찾는다

---