Super Kawaii Cute Cat Kaoani 딥러닝 수업정리) 01_Quick Introduction

수업정리/딥러닝 이론

딥러닝 수업정리) 01_Quick Introduction

치킨고양이짱아 2022. 12. 23. 17:56
728x90
728x90

AI(Artificial Intelligence)

  • Artificial Intelligence(인공지능)

    → 기계가 지능을 가진 것처럼 행동하도록 연구하는 분야

    → 지능에는 high level, low level이 있음

    • high level: 추상적 사고가 가능한가?를 기준으로 지능인지 판단함
    • low level: 금붕어가 먹이 줄려고 하면 뻐끔거리는거, 모기가 살기 위해 피하는것과 같은것도 지능으로 봄

    ⇒ 이렇게 지능은 사람마다 다르게 정의할 수 있음

    ⇒ 우리 수업 시간에는 지능을 high level 기준으로 생각할거임

  • Machine Learning(머신러닝)

    → 고등학교 때까지 배운건 deduction(연역)

    만유인력 법칙 배우고, 공 어디 떨어질지 계산

    요약하면, 지식, 수학적 모델을 배우고 이걸로 data를 줬을 때 결과를 도출함

    Machine Learning은 이거랑 반대

    → data를 엔트로피를 써서 induction(귀납)적으로 정보를 설명할 수 있는 수학적 규칙을 만들어냄

    • Classfication: decision tree 써서 분류하는거
    • Clustering: data 주면 비슷한거끼리 모으는거
    • Reinforcement Learning: labeling 값을 주지 않고 reward만 주면서 학습시키는거

      ex) 금붕어한테 밥주는건 배부른 reward를 사용하는 보상기반학습

    • Probabilistic Graphical Model: 사람의 추론은 항상 determinstic한게 아님. 대부분 불확실함 따라서 추론을 확률적으로 해야함
    💡
    Logistic Regression...Deep Learning 오늘부터 배울거!

  • 그래프에 점이 딱딱 찍혀있을 때 이걸 잘 설명하는 곡선을 만드는걸 regression이라고 함
  • 이런식으로 빵꾸난 데이터 추정할 수 있음. → 이걸 Interpolation
  • 미래의 데이터도 추정가능 → 이걸 extrapolation
  • generalization: 데이터 일부만 보여줘서 빵꾸낸거 찾아내게 하는거

    ex) 빵꾸낸 사진 채우는거

    → 이런거 기존 방법으로 잘 안됨(초록색 동그라미). 사람은 잘하는데..

→ deep learning은 기존 방법이랑 패러다임이 다름

→ 기존 방법(초록색 동그라미)는 실생활의 무언가를 변수로 삼아 수학적 모델을 삼았음

symboling approach(사람 머리 밖을 모델링)를 사용.

→ neural net의 변수(parameter)는 실생활의 무언가가 아님

input output만 실생활의 무언가고

그 사이의 수많은 parameter는 뉴런들간의 연결감도임. 이게 조정되면서 학습이 된다.

sub symboling approach(사람 머리통 속을 모델링)를 사용


Housing Price Prediction

regression으로 직선 만들었음

회귀(regression) 분석은 그냥 뉴런 하나 있는걸로 생각하면 된다.

→ 여기서 input(x1,x2,x3,x4x_1, x_2, x_3, x_4)랑 output(yy)만 실생활과 연결

→ 중간의 weight는 연결감도

Neural Network examples

  • Standard NN

→ 이건 같은 입력에 대해 같은 output이 나옴

  • Convolutional NN

  • Recurrent NN

→ 이건 과거 정보를 사용함

같은 입력에 대해서 다른 출력이 나오는게 가능

Supervised Learning

→ Input Data와 Input Data에 대한 정답에 해당하는 Label(또는 class) 정보를 입력으로 받고

주어진 데이터와 label로부터 모델을 학습시켜 새로운 데이터를 입력으로 받았을 때 label을 예측함

→ 머신러닝의 방법임

→ Structured Data에 대한 처리는 딥러닝 사용할 필요 X

기존 방법들 사용하면 됨

→ Image처럼 RGB 값의 sequence, Audio처럼 파동

Text처럼 code의 sequence 등은

상위 수준의 처리가 필요하기 때문에

딥러닝에서 사용하기에 적합함

Good for Deep Learning

Scale drives deep learning progress

→ data 수가 적을때는 별 차이가 없음

→ 하지만 data의 양을 키우다보면

transitional learning 알고리즘 한계가 명확함

→ large NN, medium NN, small NN

이건 parameter의 개수, 깊이 차이


Uploaded by N2T

728x90
728x90

'수업정리 > 딥러닝 이론' 카테고리의 다른 글

딥러닝 수업정리) 03_Shallow Neural Network  (2) 2022.12.23
딥러닝 수업정리) 02_WramingUp-Logistic Regression  (4) 2022.12.23
MoE(ME) model  (0) 2022.07.20
CVAE 설명  (0) 2022.07.20
VAE 설명  (0) 2022.07.19