수영장의 수영_데이터 분석 블로그

[선형대수] 06. Least Square 본문

Goorm 자연어처리 전문가 양성 과정 2기/선형대수

[선형대수] 06. Least Square

슈빔멘 2021. 12. 8. 10:56

내일이 과제제출이라 일단 과제부분부터 정리

 

** 항상 왜 이것을 배우는지, 어디에 사용되는지 짚어가며 !! **

 

Least Square 사용목적

=>  Over-determined Linear Systems 경우에 최소제곱법을 사용해 최적 Solution을 찾는다

 

즉,

1. 방정식의 개수 >> 미지수의 개수

2. 행 >> 렬

3. 샘플 >> 구할 변수

 

=> 쉽게 생각하면 x,y의 연립 방정식을 풀 때 미지수가 2개니까 2개 방정식이 있으면 x,y값을 구할 수 있다.

=> 그러나 만약 구해야 할 미지수는 n개인데, 방정식은 n보다 많은 m개 라면??

=> Usually no solution exists

 

=> best approximate solution을 찾는 것이 목표 *

 

 

Inner Product (내적)

=> 벡터 간 수직 계산

=> inner product, dot product로 불림

=> 앞에서 나올텐데 일단 이렇게 쓰고 pass

 

Vector Norm

=> The Length of Vector를 Vector Norm이라 부른다 

이것도 앞단원에서 나오니까 pass

 

Unit Vector

=> 벡터 놈이 1인 벡터이다

 

 

Orthogonal Vectors (직교 벡터)

두 벡터 사이의 각이 90도일 때 '서로 직교한다'

블로그에 수식 쓰는 법 알아와야겟음

 

Least Squares Problem

강의 자료를 붙여도 될 지 모르겠다

 

대충 실제벡터 b와 Ax^이 직교할 때(=그 거리가 가장 짧을 때)를 구하는 것이 최소제곱법이라는 뜻