
(해당 포스트에서 소개하고 있는 "10가지 프로젝트로 끝내는 트랜스포머 활용 가이드 with 파이토치" 책은 루비페이퍼 출판사로부터 제공받았음을 알려드립니다.) 트랜스포머는 Vaswani가 Attention is all you need 란 눈문을 통해서 소개한 신경망 구조이다. 기존에 나왔던 MLP나 CNN과 같은 기존의 신경망 구조에서 벗어나 내부적으로 해당 도메인의 메커니즘을 학습할 수 있는 구조로 되어 있어서, 초기에 제안되었던 NLP 분야 외에도 영상이나 강화학습에도 확장한 사례가 많이 제시되어 있으며, 요근래 나온 생성형 AI의 거대 모델의 기본 구조가 대부분 트랜스포머로 되어 있다. 물론 학습하는데 필요한 리소스가 많이 필요하다는 점이 일종의 제약일 수 있겠지만, 적어도 기존의 신경망 구조를 ..
Hobby/Book
2025. 3. 4. 00:29
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
TAG
- reward
- Windows Phone 7
- PowerPoint
- Kinect for windows
- End-To-End
- dynamic programming
- TensorFlow Lite
- Kinect
- 한빛미디어
- 딥러닝
- bias
- DepthStream
- Variance
- windows 8
- Distribution
- ai
- RL
- Gan
- Expression Blend 4
- Policy Gradient
- 파이썬
- Off-policy
- processing
- SketchFlow
- Offline RL
- Kinect SDK
- arduino
- 강화학습
- Pipeline
- ColorStream
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 | 29 |
30 | 31 |
글 보관함