딥러닝의 역사

좋은 딥러닝 개발자의 조건

1. implemenation skills - TF, PyTorch
2. Math skills - Linear Algebra, Probability
3. Knowing a lot of recent Papers - 최근 연구 트렌드 알기

 

인공지능의 정의와 딥러닝

 

Artificial Inteligence(인공지능): 

인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현하려는 컴퓨터 과학의 세부분야 중 하나

Machine Learning(기계학습):

ML은 컴퓨터 시스템이 패턴과 추론에 의존하여 명시적 지시 없이 태스크를 수행하는 데 사용하는 알고리즘과 통계 모델

Deep Leaning(딥러닝):

학습 과정 동안 인공 신경망으로서 예시 데이터에서 얻은 일반적인 규칙을 독립적으로 구축하는 기계학습의 한 종류

 

 

딥러닝의 4가지 중요 구성요소

• The data that the model can learn from
• The model how to transform the data
• The loss function that quantifies the badness of the model
• The algorithm to agjust the parameters to minimize the loss

 

Historical Review - Deep learning's Most Important Ideas(2020, Denny Britz)

2012 - AlexNet

2013 - DQN

2014 - Enncoder/Decoder, Adam

2015 - Gan, ResNet

2017 - Transformer

2018 - Bert

2019 -  Big Language Models(GPT-X)

2020 - Self - Supervised Leaning