DLFS – Weight Init & Avoid Overfitting
※ Deep Learning From Scratch (밑바닥부터 시작하는 딥러닝)에 대한 정리 자료입니다. 가중치 초기화 (Weight Init) 학습을 진행할 때, 가중치 초깃값의 설정은 매우 […]
Category: Data Science
DLFS – Optimizer
※ Deep Learning From Scratch (밑바닥부터 시작하는 딥러닝)에 대한 정리 자료입니다. Optimizer는 딥러닝에서의 최적화 기법이다. 딥러닝에서 최적화란 손실함수(E(W,b)를 최소로 만드는 Weight와 bias를 […]
통계학 – Singular Value Decomposition
Singular Value Decomposition(SVD, 특이값 분해)은 행렬을 분해하는 기법이다. A(mxn)라는 행렬이 있을 때, A=USVT로 분해되며, U,S,V는 다음을 만족하는 행렬이다. U: orthogonal matrix (직교 […]
DLFS – Backpropagation
※ Deep Learning From Scratch (밑바닥부터 시작하는 딥러닝)에 대한 정리 자료입니다. Backpropagation(역전파)이란 Chain Rule을 이용해서 미분을 빠르게 계산하는 방법을 의미한다. Chain Rule(연쇄법칙)은 […]
Image Normalization
0. Package (Example) Dataset Structure (Example) Dataloader Structure 1. Make Dataloader Check Dataloader 2. Get Mean, Std with Dataloader 3. CV2 Image […]
Image Convert Function
0. Package 1. CV2 Image -> PLT Image (Print)(100,200,3 : BGR) -> (100,200,3 : RGB) 2. Tensor Image -> PLT Image (Print)(3,64,64 […]
AI/CS 대학원 입시 질문 준비 모음
※ 본 포스팅은 AI/CS 대학원을 준비하면서 작성한 글로, 주관적인 의견이 내포되어 있습니다. 정보의 신뢰를 목적으로 글을 읽는 것은 권장하지 않습니다! 선형대수 확률통계 […]
논문 리뷰 – Swin Transformer
연세대학교 DE LAB에서 진행한 발표 자료입니다. 학부생 수준에서 논문을 읽고 정리해보았습니다. 논문: https://arxiv.org/pdf/2103.14030.pdf <PT 자료> <정리(발표) 자료> <참고 자료> 1. Swin Transformer, 트랜스포머+객체탐지 […]
DLFS – Deep Learning Basic
※ Deep Learning From Scratch (밑바닥부터 시작하는 딥러닝)에 대한 정리 자료입니다. 퍼셉트론 뉴런을 모방한 모델, 다수의 정보를 입력으로 받아 Reasonable하면 1, 그렇지 […]
논문 리뷰 – Transformer Tracking
연세대학교 DE LAB에서 진행한 발표 자료입니다. 학부생 수준에서 논문을 읽고 정리해보았습니다. Visual Tracking과 Attention의 개념도 간략히 작성하였습니다! 논문: https://arxiv.org/pdf/2103.15436.pdf <PT 자료> <정리(발표) 자료> […]