ML_DL/딥러닝 공부하기
[Loss Function] Cross Entropy
swwho
2023. 4. 30. 15:25
728x90
반응형
Entropy
- 불확실성
- 상자 속 10개의 공이 모두 녹색이라면 entropy는 0, 5:5의 비율로 초록과 빨강이 섞여있다면 entropy 증가
Cross-Entropy
- cross-entropy는 entropy보다 크다.
- cross-entropy는 label값이 one-hot encoding인 경우에 사용 가능하다. (ex - [0,0,1])
- binary cross-entropy는 이진분류, categorical cross-entropy는 다중 분류에서 사용한다.