[통계] TSS, RSS, ESS

RSS의 비율이 적은 모델이 더 설명력이 있음 -> R^2지표의 원리

R^2 = (TSS - RSS) / TSS = 1 - (RSS / TSS) = ESS / TSS

: 총 제곱합 중 설명된 체곱합의 비율

 

* y의 평균 : 종속변수의 평균은 해당 변수의 전반적인 중심 경향을 보이기 때문에 이를 통해 해당 변수의 변동성을 이해할 수 있음.

TSS (총 제곱합, Total Sum of Square)

• 실제값과 y 평균값의 차이 : 종속변수 y의 총 변동량

RSS (잔차 제곱합, Residual Sum of Square)

• 회귀모델의 예측값과 실제값의 차이 : 회귀모델이 설명하지 못하는 오차
• 하이퍼 파리미터 조정, 다른 모델 선택 등으로 줄일 수 있음 -> 하지만 RSS말고 다른 요소들도 고려 필요

ESS (설명된 제곱합, Explained Sum of Square)

• 회귀모델의 예측값과 y평균의 차이 : 회귀모델에 의해 설명 가능한 오차