relu

ReLU

f(x)=max(0,x). 양의 구간 기울기 1로 포화·exp를 피한 활성화. AlexNet 이후 표준.

관련 수식
관련 논문