벡터내적의 기하학적의미, 고유벡터, 고유값, 편향, 교차타당성

• 새로운 좌표계 = 새로운 기저의 도입

 

• 기하학적 의미의 벡터 내적
  • 벡터a의 변화를 벡터b가 얼마만큼 설명할 수 있는가?

 

• 고유벡터(Eigenvector) – 그 행렬이 Vector에 작용하는 주축(principal axis)의 방향을 나타내므로 공분산행렬의 고유벡터는 Data가 어떤 방향으로 분산되어 있는지를 나타내준다.

 

• 고유값(Eigen Value)
  • 고유벡터방향으로 벡터공간이 얼마나 늘려지는지 알려준다.
  • 고유값이 큰 순서대로 정렬하면 결과적으로 중요한 순서대로 주성분을 구하게 된다.
  • Data벡터를 어떤 벡터에 내적(정사영)하는 것이 최적의 결과를 내주는가?의 답은 공분산행렬의 고유값과 고유벡터를 구함으로써 가능하다

 

• 편향
  • Model이 실세계를 정확히 표현하지 못하기 때문에 발생하는 Modeling오차로서 Data를 추가한다고 개선되는것이 아니다.
  • 편향을 줄이기 위해서 단순한 Model사용도 하나의 방법이지만 Model이 실제 문제를 정확히 표현못할정도로 유연성을 잃어버린다면 편향이 증가할 수 도 있다. 따라서, 교차타당성 검사방법 사용

Cross Validation Sample

gridsearch_reg.best_params_