Softmax & Loss
What is softmax?Softmax layer란 classification이나 regression 등에서 마지막에 output layer에서 확률과 비슷한 성질을 가지게 처리해주는 부분Softmax layer에서 사용하는 함수를 Softmax function이라 하고, 추후 편의를 위해 output layer 직전까지의 결과를 x=[x1, x2, ⋯ , xn]T\mathbf{x}=[x_1,~x_2,~\cdots,~x_n]^Tx=[x1, x2, ⋯, xn]T, 즉 x∈Rn\mathbf{x}\in\R^nx∈Rn이라 하자.이때 softmax function f(x) : Rn→Rnf(\mathbf{x})\ :\ \R^n\rightarrow\R^nf(x) : Rn→Rn에 대해 다음과 같이 정의한..
개인 공부
2022. 8. 13. 07:28
최근에 올라온 글
공지사항
- Total
- Today
- Yesterday
최근에 달린 댓글
링크
TAG
- mathematics
- Trace trick
- Backprop
- 백준 17411
- 17411
- 선형대수학
- 연습문제
- PMA 연습문제
- Trace tirck
- JOI 2021
- 해석학 Chapter 5
- Machine Learning
- 백준
- 수(상)
- LInear SVM
- 해석학II
- cs231n assignment1
- Deep learning
- 해석학
- Derivate
- PMA
- 로피탈
- 세그먼트 트리
- Differentation
- 해석학 Ch5
- 미분
- PMA Ch5
- joi
- 수학
- icpc.me/17411
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
글 보관함