Hand Cal트랙

MLP세부 5/5

랜덤 마스킹

Dropout

Dropout은 학습 중 일부를 0으로 만들어 과적합을 줄입니다.

y = x ⊙ mask. (손계산에서는 keep 확률 스케일은 생략하거나 mask에 이미 반영)

기초 5 · 응용 1 · 도전 1 문제.

y = x ⊙ m

마스크 적용

원소별 곱

x
1
2
3
4
x 시각화[1×4]
1
2
3
4
m
1
0
1
0
m 시각화[1×4]
1
0
1
0
당신의 답[1×4]