1. 딥러닝의 역사

1. 무엇이 훌륭한 딥러너(deep learner)로 만드는가?

 

구현 능력. 수학 능력(선형대수, 확률), 최신 논문들 읽기.

 

2. 인공지능(Artificial Inteligence) / 머신러닝 / 딥러닝 의 관계

 

인공지능 > 머신러닝 > 딥러닝 

 

3. 딥러닝의 요소

 - 모델이 배울 수 있는 '데이터'

 - 데이터를 변환할 수 있는 '모델'

 - 모델을 학습시킬 수 있는 'loss function'

 - loss function을 최소화할 수 있는 '알고리즘'

 

4. 딥러닝의 역사

AlexNet(2012) : 이미지 분류하는 대회에서 딥러닝으로 1등을 함.

DQN(2013) : 알파고로 유명.

Encoder/Decoder(2014) : NMT문제를 풀기 위함. 기계화번역의 페러다임을 바꿈.

Adam Optimizer(2014) : 

GAN(Generative Adversarial Network, 2015)

ResNet(Residual Networks, 2015) : 네트워크를 깊게 쌓아도 성능이 좋게끔 만든 논문.

Transformer(Attention Is All You Need, 2017) : 

BERT(Bidirectional Encoder Representations from Transformers, 2018): fine-tuned NLP models)

BIG Language Models(GPT-X, 2019)

Self-Supervised Learning(2020): 

 

 

 

* 블로그에 포스팅 하는 것 자체가 처음이라 아직 어색하기도 하고 딥러닝에 쓰이는 용어도 정립되지 않은 상태라 강의 요약을 제대로 할 수가 없었다. Precourse 전부 다 듣고 다시 한번 들어봐야지..

 

* 출처 : 네이버 부스트코스 [부스트캠프 AI Tech 3기 Precourse]