주어진 데이터에 가장 근사한 직선 (1)의 계수
,
를 구하는 방법에 대하여 알아보자
주어진 데이터의 점
을 식 (1)에 대입하면, 2개의 미지수
,
를 갖는 연립 일차방정식
(2)
을 얻는다. (이 연립방정식은 해를 갖지 않을 수도 있다.) 이 식은
(3)
의 형태로 쓸 수 있다. 여기서,
는 각각 다음과 같다.

식 (3)의 양변에
를 곱한
(4)
를 식 (3)에 관한 정규시스템(normal system)이라 하며, 이 정규시스템의 해를 연립방정식 (2)의 최소제곱해(least square solution)라고 한다.
식 (4)를 다시 쓰면

이고, 행렬의 곱을 계산하면 주어진
개의 데이터의 점에 가장 근사한 직선
를 구할 수 있는 다음 정규 시스템을 얻을 수 있다.
(5)
식 (5)의 해
가 연립방정식 (2)의 최소제곱해이다.
번째 방정식에서의 오차는
축 거리
이다. 이것은 방정식
에
를 대입해 보면 알 수 있듯이,
값과
값 사이의 차이이다. 최소제곱법의 해인
는 이 오차들의 제곱의 합인

을 최소화시키는 직선
를 결정한다. 이것은 최소제곱법을 이용하여 주어진 데이터로부터 가장
근사한 직선을 찾았다는 의미이다.
로부터 얻어진 정규 시스템
의 해
를 쉽게 구할 수 있기 때문이다. 요약하면 주어진 데이터의 값
에 오차가 가장 작은 직선
를 찾기 위해서는
(6)
의 최소제곱해(least square solution)
를 찾으면 된다.
(이익의 극대화를 위한 근사직선)