1. 딥러닝 프레임워크
딥러닝의 뉴럴네트워크를 구현하기 위해서는 다양한 것들을 구현해야 한다.
1. neural network의 모든 layer
2. Loss Function
3. 모든 layer의 weight, bais에 대한 gradient
4. 최적화 알고리즘
이러한 것들을 매번 하나하나 구현할 수 없고 모델이 복잡해지는 만큼 이러한 것들이 힘들어진다.
이때, PyTorch 같은 딥러닝 프레임워크에 모델을 구성하는 구성요소, 다양한 loss function, 자동 미분 계산, 다양한 optimizer 등을 제공하기 때문에 쉽게 구현을 도와준다.
1-1. 트렌드
딥러닝 프레임워크는 다양한 것들이 있다.
1. `TensorFlow`- Google
2. `PyTorch` - Meta
3. `JAX` - Google
4. `MXNet` - Apache
이런 다양한 딥러닝 프레임워크 중 양대산맥으로 군림하던 것이 TensorFlow와 PyTorch였는데, 최근 트렌드에서는 PyTorch를 더 많이 사용하며, 최근에는 SOTA모델들도 대부분 PyTorch로 구현되어 공개된다.
사실 두 프레임워크에 대한 다양한 견해들도 존재하고 각 장단점이 많이 존재하겠지만,
최근에는 PyTorch가 더 인기 있는 추세인 것은 확실하다.
다른 블로그에서 두 프레임워크에 대하여 자세하게 분석해 놓은 것을 발견하여 링크를 남겨두었다.
728x90
반응형
'ML & DL > 개념정리' 카테고리의 다른 글
RNN, LSTM, GRU (1) | 2023.12.22 |
---|---|
CNN: Convolution Neural Network (0) | 2023.12.21 |
손실 함수(Loss function) (1) | 2023.12.21 |
역전파(Backpropagation) 기초 (1) | 2023.12.21 |
Gradient Descent: 경사하강법 (1) | 2023.12.20 |