일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 |
Tags
- gan
- 프로그래머스
- 머신 러닝
- 운영체제
- C++
- Seq2Seq
- 국민대
- 스택
- Heap
- programmers
- 국민대학교
- Regression
- instaloader
- OS
- kmu
- 회귀
- Python
- SQL
- PANDAS
- 파이썬
- 데이터베이스
- python3
- Stack
- machine learning
- GIT
- LSTM
- 재귀
- 정렬
- db
- googleapiclient
Archives
- Today
- Total
목록stochastic gradient descent (1)
정리 노트
확률적 경사 하강(SGD)
이 포스트는 국민대학교 소프트웨어학부 '컴퓨터 비전' 강의를 듣고 요약하는 포스트입니다. 원하시는 정보가 없을 수도 있습니다. 이 점 유의 바랍니다. 질문과 오류 지적은 매우 환영합니다! Gradient Descent(경사 하강) 손실 함수를 MSE Loss(오차 제곱의 평균), f라고 하고, 변경해야 할 값을 w라고 할 때 $$ w = w - \alpha * \frac{\partial f} {\partial w} $$의 식을 통해서 고쳐 나갑니다. MSE 손실 함수(아래 식에서의 'f')는 dataset의 모든 값들을 보고 오차를 계산합니다. $$ f(w) = \frac{1} {N} \sum_{i = 1}^{n} g^{(i)}(y(x^{(i)}, w), t^{(i)}) \quad \text{(} x^{..
개념 정리/머신러닝 & 딥러닝 & A.I
2022. 10. 20. 18:51