2016-LA-CH-8-SGLee(kor)


그림입니다.

Chapter 8

행렬의 대각화

 

우리는 6장에서 에서 으로의 모든 선형변환은 표준행렬을 이용하여 행렬변환으로 나타낼 수 있음을 보았습니다. 이 표준행렬은 의 모든 벡터는 항상 표준기저의 일차결합으로 표시된다는 것으로부터 얻어졌습니다.


이 장에서는 일반적으로 임의의 순서기저(ordered basis)를 갖는 에서 으로의 선형변환에 대한 행렬표현을 좌표벡터를 이용하여 찾는 방법을 학습합니다. 또한 사이의 선형변환 의 다양한 기저에 대한 행렬표현 사이의 관계를 전이행렬(transition matrix)을 이용하여 알아보고, 행렬표현이 대각선행렬로 표현되는 경우인 행렬의 대각화에 대하여 살펴보겠습니다.


직교행렬은 자신의 전치행렬이 역행렬이므로 정말 편리하고 대칭행렬은 어떤 다른 종류의 행렬보다 응용에 많이 이용됩니다. 이 장에서는 대칭행렬의 효용성과 모든 대칭행렬은 직교 대각화가능함을 살펴보겠습니다.


* 이차형식(quadratic form)은 각 항이 이차인 다항식으로서 수학, 물리학, 경제학, 통계학, 이미지 처리기법 등 다양한 분야에서 사용됩니다. 이 형식을 해석할 때 행렬, 특히 대칭행렬이 매우 중요한 역할을 합니다. 이차형식(quadratic form)을 분석하는 과정에서 대칭행렬의 직교대각화가 어떻게 적용되는지를 알아보고 그 응용을 살펴보겠습니다.

 

앞에서 (정사각) 대칭행렬은 대각화가능함을 살펴본 후에는, 행렬대각화의 개념을 일반적인 행렬 로 확장하는 방법을 다루고, 최소제곱해와 역행렬의 일반화된 개념 및 응용을 소개합니다.


그 리고 지금까지는 실수 고유값과 실수 성분을 갖는 고유벡터에만 집중하여 학습하였습니다. 그러나 실수행렬도 종종 복소고유값과 복소고유벡터를 갖게 됩니다. 따라서 복소수인 고유값과 그에 대응하는 고유벡터와 함께 복소성분의 행렬도 다룰 수 있어야 합니다. 실수에서의 대칭행렬과 직교행렬의 정의는 복소수에서 각각 Hermitian 행렬과 유니타리(unitary) 행렬로 일반화되는데, 이 장의 후반 절에서는 Hermitian 행렬과 유니타리 행렬을 정의하고, 복소행렬의 대각화 문제를 학습하겠습니다.


직사각형입니다.직사각형입니다.그림입니다. 원본 그림의 이름: mem0000019cbe02.bmp 원본 그림의 크기: 가로 458pixel, 세로 157pixel

     그림입니다. 원본 그림의 이름: svddiagram.gif 원본 그림의 크기: 가로 459pixel, 세로 199pixel

8.1 선형변환의 행렬표현

 참고 동영상: http://youtu.be/jfMcPoso6g4

 실습 사이트: http://matrix.skku.ac.kr/knou-knowls/cla-week-11-sec-8-1.html


 

그림입니다. 원본 그림의 이름: mem000007b47fa7.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

 

 

우리는 6장에서 에서 으로의 모든 선형변환은 표준행렬을 이용하여 행렬변환으로 나타낼 수 있음을 보았다. 이 표준행렬은 의 모든 벡터는 항상 표준기저의 일차결합으로 표시된다는 것으로부터 얻어졌다. 이 절에서는 임의의 순서기저(ordered basis)를 갖는 에서 으로의 선형변환에 대한 행렬표현을 좌표벡터를 이용하여 찾는 방법을 알아본다.



표준기저에 대한 선형변환의 표준행렬과 전이행렬의 관계도(복습)


그림입니다. 원본 그림의 이름: noname05.bmp 원본 그림의 크기: 가로 453pixel, 세로 414pixel

임의의 순서기저 (ordered basis)를 갖는 에서 으로의 선형변환에 대한 행렬표현

 

그림입니다. 원본 그림의 이름: noname04.bmp 원본 그림의 크기: 가로 377pixel, 세로 325pixel

 

 

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.1.1

로 정의된 선형변환이라 하고,

 

 

를 각각 순서기저라 하자. 그러면

 

 

이고, 이러한 행렬 는 다음과 같다.

 

임의의 벡터 의 기저 에 있는 벡터에 의하여



       으로 유일하게 표현되며, 에 관한 의 좌표벡터는


       이다. 의 선형성에 의하여 이고, 의 벡터이므로 기저 에 관하여 다음이 성립한다.


          

                                 

 

 

 

 

 

 

 

(1) 정리 8.1.1의 유용성은 의 값을 행렬의 곱으로 계산할 수 있음을 뜻한다. 즉,

 

 

(2) 행렬 의 모양은 기저 에 따라 변한다. 한 예로 순서 기저 안의 벡터들의 순서를 변경하면 의 열도 변함을 뜻한다.

(3) 는 같지는 않지만 다음과 같은 관계를 만족한다.

 

 

 

(4) 일 때 순서기저를 로 택하여 위와 같은 방법으로 얻어진 행렬 을 기저 에 관한 선형변환(선형연산자) 의 행렬 표현이라 하고, 기호로 로 표시한다.

 

 

 

 

 

 

선형변환 이라 정의하고,

,

를 각각 의 순서기저라 하자. 이때 를 구하여라.


이므로 먼저 를 구하면 다음과 같다.


   , ,


이제, 기저 에 속한 벡터들의, 기저 에 대한 좌표벡터를 각각 구하자.


   

   

   


이므로 이 세 개의 연립방정식을 각각 풀면 된다.


그런데 이 연립방정식의 계수행렬이 모두 이므로 첨가행렬의 형태를 확장한 행렬 을 RREF로 변환하여 다음 행렬을 구한다.


   


따라서 , , 이고

   

   (참고로 이다.)           

 

 

선형변환 이라 정의하고,

   

를 각각 의 순서기저라 하자. 이때 를 구하여라.


, 이므로


   


이다. 이것을 RREF로 변환하면  


  
                        


이므로 은 다음과 같다.


             


 http://sage.skku.edu 또는 http://mathlab.knou.ac.kr:8080/


정의하기




[ 1 -1  0  2  3]

[ 0  2  1 -2 -1]

[-1  1  1 -1 -3]


② RREF 구하기




[   1    0    0  1/2  5/2]

[   0    1    0 -3/2 -1/2]

[   0    0    1    1    0]


구하기




[ 1/2  5/2]

[-3/2 -1/2]

[   1    0]           

 

 

 

선형변환 라 정의하고 의 순서기저를 각각 , 라 할 때, 다음을 구하여라.


(1) 를 구하여라.

(2) 을 (1)에서 구한 을 이용하여 계산하여라.

(3) 의 정의로부터 을 구하여라.


(1) , 이므로,

따라서  


(2) 이므로,

   

               

   (참고로 이다.)


(3) ,          

 

 

 

서로 다른 순서기저를 갖는 세 개의 벡터공간과 그 사이의 선형변환 및 그의 행렬표현

 

 

 

 

그림입니다. 원본 그림의 이름: CLP000011f80011.bmp 원본 그림의 크기: 가로 556pixel, 세로 206pixel

 

가 각각 에서 , 에서 라는 순서기저를 가진 벡터공간으로의 선형변환이라면, 이 선형변환은 각각 , 와 같은 표준행렬을 가지게 된다. 그러면 합성변환 의 표준행렬은 이 두 행렬에 의하여 결정되는데,

 

 

의 형태로 결정된다. 즉 간단한 행렬의 곱으로 합성변환의 표준행렬을 구할 수 있다.

 

 

 

 

 

 

 

전이행렬(transition matrix)

 

 

 

 

에서 행렬 를 기저 에서 기저 로의 전이행렬(transition matrix)이라 한다. 이를 행렬변환 로 생각할 수 있다.

 

그림입니다. 원본 그림의 이름: CLP000011f80012.bmp 원본 그림의 크기: 가로 439pixel, 세로 191pixel

 

 

 

 

 

 

선형변환 , 라 정의하고 의 순서기저를 , , 라 할 때 순서기저 , 에 대한 합성변환 의 표준행렬을 구하여라.


http://sage.skku.edu or http://mathlab.knou.ac.kr:8080/




Matrix of T=

[ 1 -1]

[ 2  1]

Matrix of S=

[ 2 -3]

[ 3  2]

MS*MT=

[-4 -5]

[ 7 -1]




Matrix of S*T=

[-4 -5]

[ 7 -1]           

 

선형변환 를 각각 

,

라 정의할 때 합성변환 와 그 표준행렬을 구하여라. 그리고 합성변환의 표준행렬은 의 표준행렬의 곱으로 표현됨을 확인하여라.


http://sage.skku.edu or http://mathlab.knou.ac.kr:8080/




[ 3  1  4 -1]

[ 8  5 13 -6]

[ 7  2  9 -3]

[-1  0 -1  1]

True                      

 

 

8.2 닮음과 행렬의 대각화

 참고 동영상: http://youtu.be/xirjNZ40kRk, http://youtu.be/MnfLcBZsV-I

 실습 사이트: http://matrix.skku.ac.kr/knou-knowls/cla-week-11-sec-8-2.html

 

 

그림입니다. 원본 그림의 이름: mem000007b40001.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

 

 

이 절에서는 사이의 선형변환 의 다양한 기저에 대한 행렬표현 사이의 관계를 전이행렬(transition matrix)을 이용하여 알아보고, 행렬표현이 간단한 형태인 대각선행렬로 표현되는 경우인 대각화에 대하여 알아본다.


 

선형변환의 행렬표현 사이의 관계

 

 

 

 

 

 

 

 

 

 


   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.2.1

이 선형변환이고 의 두 기저일 때,

 

 

라 하자. 이때 기저 에서 기저 로의 전이행렬(transition matrix) 에 대하여 이 성립한다.


그림입니다. 원본 그림의 이름: CLP000016340004.bmp 원본 그림의 크기: 가로 781pixel, 세로 281pixel

 

 

 

선형변환 으로 정의하자. 의 기저 를 표준기저 이라 하고, 또 다른 기저를 라 할 때, 전이행렬을 이용하여 을 구하여라.


표준기저 에 관한 의 표준행렬을 라 하면 이고, 기저 에서 표준기저 로의 전이행렬을 라 하면



이므로 이다. 따라서 정리 8.2.1에 의하여 은 다음과 같다.


                 

           

 http://sage.skku.edu or http://mathlab.knou.ac.kr:8080/




Transition Matrix=

[ 0 -1]

[ 1  1]

A=

[ 2 -1]

[ 1  3]

P.inverse()*A*P

[ 2 -1]

[ 1  3]

Matrix of A wrt beta=

[ 2 -1]

[ 1  3]              

 


닮음


 

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [닮음]

 

 

 

 

정사각행렬 에 대하여 다음을 만족하는 가역행렬 가 존재할 때 닮은(similar) 행렬이라고 한다.

이때, 라 쓴다.

 

 

 

 


행렬 , , 에 대하여 이므로 와 닮은 행렬이다. 즉 .           

 

 

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.2.2

차의 정사각행렬 에 대하여 다음이 성립한다.

 (1)

 (2)

 (3)

 

 

  

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.2.3

차의 두 정사각행렬 가 닮음이면 다음이 성립한다.

 (1)

 (2)


이므로, 를 만족하는 가역행렬 가 존재한다.


       (1) 행렬식의 정의에 의하여,

       

           ()

           

           


       (2) trace 함수에 대해서도 (1)과 유사한 방법으로 증명할 수 있다.

          ( )

                                                                           

 

닮음행렬들은 행렬식이 같기 때문에, 특성방정식, 고유값도 같다.

복잡한 행렬문제를 훨씬 단순한 모양의 닮음행렬을 찾아서 간단히 처리할 수 있다.

 

 

대각화가능한 행렬


 

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [대각화가능한 행렬]

 

 

 

 

가 어떤 대각선행렬과 닮은 행렬일 때, 즉 적당한 가역행렬 가 존재하여 가 대각선행렬일 때 대각화가능한(diagonalizable) 행렬이라 하며, 이때 행렬 대각화하는(diagonalizing) 행렬이라고 한다.

 

 

 

 

  (는 가역행렬, 는 정사각행렬, 는 대각선행렬)라면

   (번의 곱)

      

     

 

가역행렬 와 행렬 에 대하여

이므로 는 대각화가능하다.                       


http://matrix.skku.ac.kr/RPG_English/8-TF-diagonalizable.html 

그림입니다. 원본 그림의 이름: mem000007b40009.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

 http://sage.skku.edu 또는 http://mathlab.knou.ac.kr:8080/




True          

 



대각행렬 이므로 대각화가능하다.         

 

행렬 이 대각화가능하지 않음을 보여라.


만일 가 대각화가능하다고 가정하자. 즉,


, ,


로서 (즉, )가 성립한다고 하자. 그러면


또는, 이 성립해야 한다. 그래서 .


만일 이면 이므로, ()이므로 모순이다.

그러므로 일 수밖에 없다.


마찬가지 방법으로 이므로, 에 모순이므로 는 대각화가능하지 않다.  

 


 

대각화가능할 동치조건


  

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.2.4 [대각화가능할 동치조건]

차의 정사각행렬 가 대각화가능할 필요충분조건개의 일차독립인 고유벡터를 갖는 것이다. 이때, 는 자신의 고유값 을 주대각선성분으로 갖는 대각선행렬 와 닮은 행렬이다.


  가 대각화가능하면 적당한 가역행렬



       에 대하여 인 대각선행렬 이 존재한다. 이때

이므로 이다.


따라서 의 고유값이므로 이다. 이때 은 각각 고유값 에 대응하는 고유벡터이다. 그런데 가 가역이므로 이러한 개의 고유벡터들은 일차독립이다.


        의 고유값 에 대응하는 일차독립인 고유벡터를

이라 하고 이것을 열벡터로 갖는 행렬을


이라 하자.

그러면


          

       그런데 의 열벡터들은 일차독립이므로 는 가역이다. 따라서 , 즉 는 대각화가능하다.                                                            

 

 

 

를 대각화하는 행렬 를 구하는 과정

 

 

 

 

1단계: 개의 일차독립인 고유벡터 을 구한다.

2단계: 을 열벡터로 갖는 행렬 를 만든다.

3단계: 이 를 대각화하는 행렬이고 의 대응하는 고유값 

을 순서대로 주 대각선 성분으로 갖는 대각선행렬 이다.

 

 

 

 

 

 


행렬 의 고유값은 이고, 가 고유값 에 각각 대응하는 의 고유벡터이다. 이것들이 일차독립이므로 정리 8.2.4에 의하여 는 대각화가능하다. 실제로 라 하면



이다.       

행렬 는 대각화가능함을 보이고, 이때 를 대각화하는 행렬 를 구하여라.


 http://sage.skku.edu 또는 http://mathlab.knou.ac.kr:8080/




[1, 2, 2]


의 서로 다른 고유값은 (중근)이다. 이제 각각의 고유값에 대응하는 의 일차독립인 고유벡터를 구해보자.


인 경우 (즉, )를 풀면




[ 1  0  2]

[ 0  1 -1]

[ 0  0  0]


이므로 를 얻는다. 대표적인 고유벡터는 .


인 경우 (즉, )를 풀면




[1 0 1]

[0 0 0]

[0 0 0]


이므로  에서 대표적인 고유벡터는

   .




[-2 -1  0]

[ 1  0  1]

[ 1  1  0]


1


위의 계산과 같이 의 행렬식이 이 아니므로 는 가역행렬 즉, 세 벡터 는 일차독립이므로 정리 8.2.4에 의하여 는 대각화가능하다.      




[1 0 0]

[0 2 0]

[0 0 2]         ■

 

 

행렬 의 특성방정식은 이므로 의 고유값은 이고 은 중근이다. 이 고유값에 대응하는 의 고유벡터는


,


이므로 는 세 개의 일차독립인 고유벡터를 갖지 않는다. 따라서 정리 8.2.4에 의하여 는 대각화가능하지 않다. 

 

 

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.2.5

를 행렬 의 서로 다른 고유값 에 대응하는 고유벡터라 하면 는 일차독립이다.

 

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.2.6

차의 정사각행렬 개의 서로 다른 고유값을 가지면 는 대각화가능하다.


 을 각각 의 서로 다른 고유값 에 대응하는 고유벡터라 하면 정리 8.2.5에 의하여 이들은 일차독립이다. 따라서 정리 8.2.4에 의하여 는 대각화가능한 행렬이다.    

 

에서 주어진 행렬 는 2개의 서로 다른 고유값을 가지므로 정리 8.2.6에 의하여 는 대각화가능하다.     

 

 가 대각화가능한 행렬이라 하더라도 의 고유값 중에는 같은 것이 존재할 수 있다. 따라서 정리 8.2.6의 역은 성립하지 않는다.

 

 

대수적 중복도와 기하적 중복도


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [대수적 중복도와 기하적 중복도]

 

 

 

 

를 행렬 의 서로 다른 고유값이라 하면 의 특성다항식은

 

그림입니다. 원본 그림의 이름: CLP000011f80014.bmp 원본 그림의 크기: 가로 554pixel, 세로 98pixel

 

와 같이 나타낼 수 있다. 여기서 의 합은 이 된다. 이때, 정수 대수적 중복도(algebraic multiplicity)라 한다. 그리고 고유값에 대응하는 일차독립인 고유벡터의 수를 기하적 중복도(geometric multiplicity)라고 한다.

 

 

 

 


      

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.2.7 [대각화 필요충분조건 2]

차의 정사각행렬 가 대각화가능할 필요충분조건은 각 고유값의 기하적 중복도를 모두 합하면 이 되는 것이다.

정리 8.2.4에 의하여 차의 정사각행렬 가 대각화가능할 필요충분조건은 개의 일차독립인 고유벡터를 가져야 한다. 따라서 기하적 중복도는 일차독립인 고유벡터의 수를 의미하므로, 그 총합은 개가 된다.         


 

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.2.8

차 정사각행렬 의 대수적 중복도는 항상 기하적 중복도보다 크거나 같다.

 

 의 고유값 의 기하적 중복도라 하자. 그리고 을 열벡터가 에 대응하는 일차독립인 개의 고유벡터로 이루어진 행렬이라 하자. 그러면 개의 일차독립인 열벡터를 에 더하여 가역행렬 를 만들 수 있다. 이제 의 역행렬을 라 하면 가 된다. 은 같은 특성다항식을 갖고 또 의 처음 개의 열벡터는 대각성분에 를 가지므로 의 특성다항식은 적어도 의 인수를 갖는다. 따라서 의 대수적 중복도는 의 기하적 중복도보다 크거나 같다.

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.2.9 [대각화 필요충분조건 3]

차의 정사각행렬 가 대각화가능할 필요충분조건은 행렬 의 모든 고유값의 대수적 중복도와 기하적 중복도가 같을 조건이다.

 

가 대각화 가능하면 가역행렬 와 대각행렬 가 존재하여  또는 를 만족한다. 즉 번째 열벡터의 곱은 번째 열벡터의 상수배와 같다. 따라서 개의 모든 열벡터는 의 고유벡터가 되고 의 고유값은 같은 대수적 중복도와 기하적 중복도를 갖는다. 역은 정리 8.2.7에 의해서 성립한다.   

 

행렬 의 고유값은 이고, 에 의하여 대각화가능하다. 따라서 , 이다. 다음이 성립한다.

   




8.3 직교대각화, *행렬 함수

 참고 동영상: http://youtu.be/jimlkBGAZfQhttp://youtu.be/B--ABwoKAN4  

 실습 사이트: http://matrix.skku.ac.kr/knou-knowls/cla-week-11-sec-8-3.html

 

 

그림입니다. 원본 그림의 이름: mem000007b40002.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

 

 

직교행렬은 자신의 전치행렬이 역행렬이므로 정말 편리하다. 그리고 대칭행렬은 어떤 다른 종류의 행렬보다 응용에 많이 이용된다. 이 절에서는 대칭행렬의 효용성과 모든 대칭행렬은 직교대각화가능함을 확인한다. 특히 마지막으로 행렬대각화의 응용으로 행렬함수를 다룬다.

 

 

직교행렬


  

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [직교행렬]

 

 

 

 

정사각행렬 에 대하여 이면 직교행렬(real orthogonal matrix)이라고 한다.

 

 

 

 


 

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.3.1

행렬 가 직교행렬이면 다음을 만족한다.

 

(1) 행렬 의 행벡터들은 서로 수직이며, 정규벡터이다.

(2) 행렬 의 열벡터들은 서로 수직이며, 정규벡터이다.

(3) 는 가역행렬이다.

(4) 를 만족한다(즉, 길이를 보존한다).

 

정리 6.2.3의 증명과 같은 방법으로 보인다.


라 하면 이고

   이므로 는 직교행렬이다.           

직교행렬의 역행렬은 단지 전치행렬을 쓰기만 해도 구할 수 있다.


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [직교닮음]

 

 

 

 

만일 가 같은 크기의 정사각행렬이라 할 때, 직교행렬 가 존재하면, 직교닮음(orthogonally similar)이라고 한다.

 

 

 

 

   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [직교대각화 가능]

 

 

 

 

정사각행렬 에 대하여 를 대각화하는 직교행렬 가 존재할 때 직교대각화가능(orthogonally diagonalizable)하다고 하며 직교대각화하는(orthogonally diagonalizing) 행렬이라고 한다.

 

 

 

 

 

 어떤 행렬들이 직교대각화가능한가?  (대칭행렬)


   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.3.2

대칭행렬의 고유값은 모두 실수이다.

의 고유값, 에 대응하는 의 고유벡터라 하면 이 성립한다. 이제 위 식 양변의 왼쪽에 를 곱하면 이 된다. 다시 양변에 켤레복소수를 취하면 으로부터 다음을 얻는다.


      


       따라서 에서 이므로 는 실수가 된다.     

 

 

대칭행렬 의 특성방정식은 이므로 고유값은 이고 모두 실수이다.     

 

 

 

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.3.3

가 대칭행렬이면, 의 서로 다른 고유값에 대응하는 고유벡터는 서로 직교한다.

 서로 다른 고유값 ()에 대응하는 의 고유벡터를 , 라 하자. 그러면 다음이 성립한다.

             

                         

                         .

            이므로 을 얻는다.      

 

 

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.3.4

차 정사각행렬 가 직교대각화가능할 필요충분조건은 가 대칭행렬인 것이다.

 

() 가 직교대각화가능하므로 인 직교행렬 와 대각선행렬 가 존재한다. 그런데 이므로 다음 식을 얻는다.


       따라서 다음이 성립한다.


       

                         

                         

       즉, 는 대칭행렬이다.


       () : 생략              

 

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.3.5

가 대칭행렬이면 개의 고유벡터들의 정규직교집합을 갖는다.

 

가 대칭행렬이므로 정리 8.3.4으로부터 는 직교대각화가능하다. 즉, 인 직교행렬 와 대각선행렬 가 존재한다. 따라서 의 고유값들은 의 대각선 성분이고 개의 일차독립인 고유벡터들은 의 열벡터로서 취해질 수 있다. 그런데 의 열벡터들은 정규직교집합을 이루므로 개의 고유벡터들의 정규직교집합을 갖는다.    


   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.3.6

차 정사각행렬 에 대하여 다음은 동치이다.

 

(1) 는 직교대각화가능하다.

(2) 개의 고유벡터들의 정규직교집합을 갖는다.

(3) 는 대칭행렬이다.

 

직교대각화하는 직교행렬 를 어떻게 구할 것인가?

 

 

대칭행렬 를 직교대각화하는 행렬 를 구하여라.


의 특성다항식은 이므로 의 고유값은 ,이고, 대칭행렬의 서로 다른 고유값에 대응하는 고유벡터는 모두 직교집합(o.g.)이고 각각 다음과 같다.



직교집합인 를 정규화(o.n.)하면


                  

 

 

행렬 의 고유값은 이다.

에 대응하는 두 개의 일차독립인 고유벡터는 (수직이 아닐 수 있다)


   

이고 Gram-Schmidt 정규직교화 과정을 이용하면


   ,

   ,


에 대응하는 고유벡터는 이고 (이미 직교이므로) 정규화만 하면

   

따라서 직교행렬은 이다.            

 

 

 

 

행렬 함수(Function of Matrices)

 

 

 

 

http://youtu.be/B--ABwoKAN4

 

 

 

 

 


그림입니다. 원본 그림의 이름: mem0000019c0001.JPG 원본 그림의 크기: 가로 217pixel, 세로 106pixel 그림입니다. 원본 그림의 이름: mem0000019c0002.png 원본 그림의 크기: 가로 560pixel, 세로 158pixel

8.4 이차형식

 참고 동영상: http://youtu.be/vWzHWEhAd-k, http://youtu.be/lznsULrqJ_0  

 실습 사이트: http://matrix.skku.ac.kr/knou-knowls/cla-week-12-sec-8-4.html

 

 

 

그림입니다. 원본 그림의 이름: mem000007b40003.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

 

 

이 차형식(quadratic form)은 각 항이 이차인 다항식으로서 수학, 물리학, 경제학, 통계학, 이미지 처리기법 등 다양한 분야에서 사용된다. 이 형식을 해석할 때 행렬, 특히 대칭행렬(symmetric matrix)이 매우 중요한 역할을 한다. 이 절에서는 이차형식을 분석하는 과정에서 대칭행렬의 직교대각화가 어떻게 적용되는지를 알아볼 것이다.

 

 

   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 

 

 

 

 

두 변수 , 를 갖는 이차곡선 방정식

                             (1)

 

을 행렬로 표현하면 다음과 같다.

 

                             (2)

 

 

 

 

 

 

   

이차곡선의 그래프: 원뿔곡선(conic section)의 형태를 지닌다.

 

 

 

 

① 정상적인 원뿔곡선(non-degenerate conic section): 원, 타원, 포물선, 쌍곡선

② 허 원뿔곡선(imaginary conic section): 방정식 (1)을 만족하는 점 가 없을 때

③ 퇴화 원뿔곡선(degenerate conic section): 방정식 (1)의 그래프가 한 점, 한 직선, 또는 한 쌍의 직선으로 이루어지거나 존재하지 않을 때

 

 

 

 

 

 

      그림입니다. 원본 그림의 이름: mem0000019c0004.jpg 원본 그림의 크기: 가로 471pixel, 세로 173pixel 사진 찍은 날짜: 2006년 06월 15일 오후 5:01

    원(circle)       포물선(parabola)    타원(ellipse)   쌍곡선(hyperbola)

 

 

표준위치(standard position)에 있는 원뿔곡선

 

 

 

 

    (타원)                                                        (3)

그림입니다. 원본 그림의 이름: CLP000016f80002.bmp 원본 그림의 크기: 가로 784pixel, 세로 359pixel

 

       또는 (쌍곡선)                                  (4)

그림입니다. 원본 그림의 이름: CLP000016f80003.bmp 원본 그림의 크기: 가로 1080pixel, 세로 453pixel

 

       또는 (포물선, )                                   (5)

 

그림입니다. 원본 그림의 이름: CLP000016f80004.bmp 원본 그림의 크기: 가로 878pixel, 세로 289pixel

 

 

 

 

 


방정식 로 표현되므로 이 방정식의 그래프는 타원이다. 또, 방정식 로 표현되므로 이 방정식의 그래프는 쌍곡선이다. 그리고 방정식 로 표현되므로 이 방정식의 그래프는 포물선이다.                                                         

 http://sage.skku.edu or  http://mathlab.knou.ac.kr:8080/




           그림입니다. 원본 그림의 이름: sage0 (1).png 원본 그림의 크기: 가로 488pixel, 세로 316pixel     


의 그래프는 축이다. 방정식 의 그래프는 , 인 한 쌍의 평행인 직선이다. 의 그래프는 인 한 쌍의 직선이다. 방정식 의 그래프는 의 한 점으로 이루어진다. 방정식 의 그래프는 존재하지 않는다.     

 

 

 이차방정식에서 항과 항, 항과 항을 갖는 이차방정식의 그래프는 표준위치로부터 평행이동된 원뿔곡선이다.

 

 

방정식 은 완전제곱꼴로 만들면


                                  (6)


이므로 로 치환하면 새로운 -좌표계에서 다음과 같이 나타난다.

이 식은 -좌표계에서 표준위치에 있는 쌍곡선의 방정식이다. 따라서 식 (6)의 그래프는 -좌표계에서 표준위치에 있는 쌍곡선을 -축으로 3만큼, -축으로 1만큼 평행이동한 그래프이다.                                                           


 http://sage.skku.edu or http://mathlab.knou.ac.kr:8080/




           그림입니다. 원본 그림의 이름: mem00000e740001.png 원본 그림의 크기: 가로 360pixel, 세로 359pixel      



이차형식


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [이차형식]

 

 

 

 

                          (7)

을 이차방정식 (1)에 관한 이차형식(quadratic form)이라고 한다.

 

 

 

 

 

은 이차형식이고, 와 1이 이차항이 아니므로 이차형식이 아니다.     

 

일반적인 이차형식은 행렬을 도입하여 행렬곱의 형태인 꼴로 표현할 수 있다.


또는

 

 앞으로는 를 대칭행렬로 사용하여 다음과 같이 나타내도록 한다.

             

             

 

   이와 같이 대칭행렬을 택하는 이유는 직교대각화가 가능하기 때문이다.


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 

 

 

 

 

차의 대칭행렬이고, 개의 변수 을 성분으로 갖는 의 벡터 에 대하여 이차다항식

상의 이차형식이라 한다.

 

 

 

 

 

 

 이차형식에서 항을 교차항이라 한다. 대칭행렬의 직교대각화를 이용하면 교차항을 제거할 수 있다.

 

 이차형식

 

 

  에서 행렬 가 대칭행렬이므로 고유값 , 에 대응하는 의 정규직교인 고유벡터 를 찾을 수 있고, 라 하면 에 의하여 직교대각화 가능하다.

  즉, 이다. 이때, 고유벡터 의 역할을 바꾸어서 교환할 수 있으므로 일반성을 잃지 않고 이라 할 수 있다.

 

  따라서 직교행렬 꼴의 의 회전행렬이다. 이러한 행렬 에 의하여 얻어진 새로운 좌표계를 -좌표계라 하고 이라 하자. 그러면 이고

 

                         

 

  이므로 이차형식 는 새로운 좌표계에서는 교차항이 없이 표현된다. 따라서 다음 정리를 얻는다.

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.4.1 [의 주축정리]

대칭행렬 의 고유값을 라 할 때, 좌표축의 회전에 의하여 이차형식 는 새로운 -좌표계에서

 

                              (8)

 

으로 표현될 수 있다. 이 회전은 행렬식이 1이고 를 대각화하는 직교행렬을 라 할 때 이라는 치환에 의하여 얻어진다.


이차형식의 대각화를 이용하여 다음 방정식이 어떤 이차곡선을 나타내는지를 결정하여라.


                  (9)


이차방정식

로 나타낼 수 있고, 의 특성방정식은 이므로 고유값은 이다. 따라서 정리 8.4.1에 의하여 이다. 따라서 새로운 좌표계에서 이차곡선의 방정식은



이다. 그런데 고유값 에 대응하는 정규직교인 고유벡터들은


이므로 직교행렬



이다. 따라서 -축은 -축을 시계반대방향으로 만큼 (즉, 시계방향으로 45°만큼) 회전한 축이고, 식 (9)는 -축에서의 타원이다.                           

그림입니다. 원본 그림의 이름: CLP000016f80005.bmp 원본 그림의 크기: 가로 385pixel, 세로 379pixel      ■

 

 

이차형식(quadratic form)(컴퓨터 시뮬레이션)

 

 

 

 

http://www.geogebratube.org/student/m121534

 

묶음 개체입니다. 

 

 

 

 

 


다음 방정식의 그래프를 그려라.


                    (10)


 라 하면 식 (10)의 행렬 표현은


                                      (11)


이다. 먼저 회전이동을 하여 교차항을 소거하자. 의 특성방정식


 


으로부터 의 고유값은 , 이고, 이에 대응하는 정규직교인 고유벡터는 각각 , 이므로 이다.


의 주축정리에서 이므로 ,이고, 따라서 식 (11)로부터 다음을 얻는다.


                         (12)


이제, 평행이동을 하여 방정식 (12)의 을 소거하자. 식 (12)를 완전제곱꼴로 바꾸면


 


즉, 이므로 식 (12)는 -좌표축을 축 방향으로 1만큼 평행이동한 -축에서 다음과 같이 나타내어지는 타원의 방정식이다.                                          


                

그림입니다. 원본 그림의 이름: CLP000016f80006.bmp 원본 그림의 크기: 가로 512pixel, 세로 376pixel


이차형식의 대각화를 이용한 3차원 곡면

 

 이차형식 (7)을

 

                                                    (13)

 

라 하고 이것을 대각화하면 회전된 -좌표계에서는

 

                                                    (14)

 

으로 변환되므로 상에서 식 (13)의 그래프를 쉽게 알 수 있다.

 

식 (14)에서 , 가 모두 양이라면, 이 그래프는 아래 그림 (a)와 같이 위쪽이 열린 포물면(paraboloid)이다. 또한, , 가 모두 음이라면 그림 (b)와 같이 아래쪽이 열린 포물면이다. 이러한 포물면의 수평절단면은 타원이므로 타원포물면(elliptic paraboloid)이라고 한다.

 

그림입니다. 원본 그림의 이름: CLP000016f80007.bmp 원본 그림의 크기: 가로 689pixel, 세로 366pixel

 

 또한 식 (14)에서 , 가 모두 영이 아니고 서로 다른 부호이면, 이 그래프는 아래 그림 (a)와 같이 안장 모양의 쌍곡포물면(hyperbolic paraboloid)이 된다. , 중 하나가 영이라면, 그래프는 그림 (b)와 같은 포물기둥(parabolic cylinder)이 된다.

 

그림입니다. 원본 그림의 이름: CLP000016f80008.bmp 원본 그림의 크기: 가로 730pixel, 세로 381pixel

 

다음 방정식의 그래프가 타원포물면임을 설명하고 일 때의 단면을 그려라.


                               (15)


식 (15)의 우변을 대각화하는 행렬 를 구하면 이므로 로 치환하면 식 (15)는 다음과 같이 변환된다.


                                (16)


식 (16)은 회전된 -좌표계에서 타원포물면이다. 여기서 -좌표계는 -좌표계를 에 의하여 시계반대방향으로 만큼 회전한 것이므로



으로부터 회전각 을 얻는다. 이제, 식 (15)의 포물면을 으로 자른 단면을 그리자. 식 (16)에 을 대입하여 정리하면 이므로 이 그래프는 다음 그림과 같다.                                        


그림입니다. 원본 그림의 이름: CLP000016f80009.bmp 원본 그림의 크기: 가로 408pixel, 세로 328pixel


 http://sage.skku.edu


① 행렬 의 고유값 구하기




[50, 25]

② 행렬 의 고유벡터 구하기




[(50, [(1, -4/3)], 1),

(25, [(1, 3/4)], 1)]


③ 행렬 를 대각화시키는 행렬 구하기




[ 4/5  3/5]

[ 3/5 –4/5]


④ 두 타원을 동시에 그리기




   그림입니다. 원본 그림의 이름: mem00000dd00001.png 원본 그림의 크기: 가로 585pixel, 세로 584pixel              

 



8.5 *이차형식의 응용

 참고 동영상: http://youtu.be/cOW9qT64e0g

 실습 사이트: http://matrix.skku.ac.kr/knou-knowls/cla-week-12-sec-8-5.html


 

그림입니다. 원본 그림의 이름: mem000007b40004.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

 

 

앞 에서 소개한 주축정리에 의하여 3차원 곡면의 그래프는 각각의 2차원 평면에서 원, 타원 또는 포물선 등의 형태로 나타난다. 구체적인 모양은 주축정리의 핵심인 고유값의 부호에 따라 결정된다. 이 절에서는 이차형식 그래프의 형태를 구분하는 이차형식의 부호를 정의하고, 이를 이용하여 다변수함수의 극값을 구하는 법을 배운다.



그림입니다. 원본 그림의 이름: mem0000019c0005.jpg 원본 그림의 크기: 가로 300pixel, 세로 300pixel


  이차형식의 응용과 Sage:

http://matrix.skku.ac.kr/2014-Album/Quadratic-form/ 



8.6 SVD와 일반화된 역행렬

 참고 동영상: https://youtu.be/ejCge6Zjf1Mhttp://youtu.be/7-qG-A8nXmo  

 실습 사이트: http://matrix.skku.ac.kr/knou-knowls/cla-week-12-sec-8-6.html



 

그림입니다. 원본 그림의 이름: mem000007b40005.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

 

 

(정사각) 대칭행렬은 대각화가능함을 알았다. 그러면 이제 행렬대각화의 개념을 일반적인 행렬 로 확장하는 방법을 다루고, 최소제곱해와 역행렬의 일반화된 개념 및 응용을 소개한다.



   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.6.1 [특이값 분해 정리]

행렬 의 실수 행렬이라 하자. 그러면 다음과 같은 직교(orthogonal)행렬 , 와 대각선행렬 가 존재한다.

 

                                          (1)

 

여기서 은 주대각선성분이 모두 (단조감소의 순서로 배열된) 양수이고, 가역인 대각선행렬, 은 영행렬이다. 즉,

 

(단 )

 

  

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 

 

 

 

 

위의 행렬 의 대각선성분들을 행렬 특이값(singular value)들이라 하고, 의 열들을 left singular vector, 의 열들을 right singular vector라고 한다.

 

 

 

 

 

 는 대칭행렬 를 직교대각화하는 직교행렬이다.

 

 

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.6.2

 크기의 행렬 를 특이값분해(SVD, singular value decomposition)라 하고 을 행렬 의 계수()라 하자. 그러면

 

 (1)

 (2)

 

정리 8.6.1에 의하여, 인 직교행렬 와, 대각선성분이 차의 대각선행렬 차의 대각선행렬 가 존재한다. 즉, (대칭행렬 에 대하여)


 와


       이 성립한다.                                                                         

 

 

행렬 의 특이값분해(SVD)를 구하여라.


 

의 고유값을 구하면 이고, 행렬 의 특이값은 이다.

에 대응하는 의 단위고유벡터는 ,

에 대응하는 의 단위고유벡터는 이고,

같은 방법으로 에 대응하는 두 개의 단위고유벡터는

이다. 따라서

 

이라 하면, 행렬 의 특이값분해(SVD)는 다음과 같다.

              


http://sage.skku.edu 또는 http://mathlab.knou.ac.kr:8080/


① 행렬 의 특이값과 의 고유벡터 구하기




[(9, [(1, sqrt(3))], 1), (1, [(1, -1/3*sqrt(3))], 1)]


구하기




[        1/2 1/2*sqrt(3)]

[1/2*sqrt(3)        -1/2]


의 고유벡터 구하기




[(9, [(1, 1/3*sqrt(3))], 1), (1, [(1, -sqrt(3))], 1)]


구하기




[ 1/2*sqrt(3)          1/2]

[         1/2 –1/2*sqrt(3)]


⑤ 대각선행렬 구하기




[3 0]

[0 1]


임을 확인




[sqrt(3)       2]

[      0 sqrt(3)]            ■



가역행렬의 동치정리(SVD)


   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.6.3

 행렬 가역행렬(nonsingular matrix)이기 위한 필요충분조건은 행렬의 특이값들이 모두 이 아니라는 것이다.


 이므로 행렬 가 가역이기 위한 필요충분조건은 가 가역이어야 한다. 그런데 행렬이 가역이기 위한 필요충분조건은 그것의 고유값들이 이 아니어야 하므로, 정리 8.6.2에 의하여 특이값들이 이 아니어야 한다.                           


 

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.6.4

 행렬 에서 개의 특이값들이 이라 하자. 그러면 행렬 는 다음과 같다.

 

일반화된 역행렬 (pseudo-inverse) : 최소제곱해 연구에 중요하다.

 

 가 크기 인 가역행렬인 경우 특이값 분해에 의해


                                                                       (2)

 

  로 표현할 수 있다. 여기에서, , , 는 모두 인 가역행렬들이고, 특히 , 는 직교행렬들이다. 그러므로 의 역행렬은 다음과 같이 표현된다.


                                                                  (3)

 

 이제 행렬 가 정사각행렬이 아니거나, 비가역인 정사각행렬인 경우에는 (3)식은 적용할 수 없다. 그러나 (2)의 가운데 행렬을 (여기서 은 가역행렬)로 생각하면 모든 행렬 에 대한 행렬곱 을 다음과 같이 정의할 수 있다.


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [일반화된 역행렬]

 

 

 

 

행렬 가 크기 인 경우 크기 인 행렬 행렬 pseudo-inverse라 한다. 여기서 , 직교행렬이고, 은 다음과 같은 행렬이다.

 

 (여기서 은 가역행렬)

 

 

 

 

 

  ‘dagger’ 로 읽는다. 인 경우 로 정의한다.

Truncated SVD

    http://langvillea.people.cofc.edu/DISSECTION-LAB/Emmie'sLSI-SVDModule/p5module.html


truncated SVD란 ?

 

임의의 행렬 에 대하여 SVD는 다음과 같이 주어진다.

여기서 행렬 에서 은 다음과 같이 주어지는 행렬로

의 특이값이라 부른다. full rank decomposition은  의 처음 개의 열벡터를 택하여  각각 , 이라 하면 로 주어진다. 그리고 -rank approximation (또는 truncated SVD)은 의 처음 개의 열벡터와 처음 개의 특이값(큰 순서대로)를 택하여 나타낸 행렬이다.

 

행렬 의 pseudo-inverse를 구하여라.


의 특이값 분해는
  

이므로 위 정의에 의하여


       
      
                


http://matrix.skku.ac.kr/RPG_English/8-MA-pseudo-inverse.html 

그림입니다. 원본 그림의 이름: mem000007b4000a.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

http://sage.skku.edu or http://mathlab.knou.ac.kr:8080/




[ 0.333333333333 -0.333333333333  0.666666666667]

[ 0.333333333333  0.666666666667 -0.333333333333]


 

 행렬 일 때 full column rank를 갖는다고 한다. 이때 는 가역행렬이다. pseudo-inverse는 가 가역행렬인 경우 역행렬 과 일치한다.

 

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.6.5

행렬 가 full column rank를 갖는 행렬이면, 의 pseudo-inverse는

 

 

이다.

를 특이값분해라 하자. 이때 (여기서 은 가역행렬이다). 그러면



      가 full column rank를 가지므로 는 가역행렬이고 행렬 인 직교행렬이다. 그러므로 이고,


          

                             

 

다음 행렬의 pseudo-inverse를 구하여라.


       


가 full column rank를 가지므로,


   는 가역행렬이고,

        

 

 

  

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.6.6

행렬 의 pseudo-inverse라 하면,

 

 (1)

 (2)

 (3)

 (4)

 (5)

 (6)

 

 

 

 

 

 

 

pseudo-inverse는 최소제곱해를 찾는데 특이값 분해를 이용하는 방법을 제공하므로 매우 중요한 역할을 한다. 선형연립방정식 의 최소제곱해는 이미 알고 있듯이 정규방정식 의 해이다. 이 경우 가 full column rank를 가지면 행렬 는 가역행렬이므로 유일해

가 존재한다. 따라서 full rank column인 경우 최소제곱해는 pseudo-inverse 의 곱이다.

 

 

 

 

 

 

 

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.6.7

행렬이고, 의 임의의 벡터이면, 는 (최소의 에러를 갖는) 의 최소제곱해이다.

 

의 특이값분해라 하자. 이때 (여기서 은 가역)이다. 그러면 이므로 이다.


        

                      


       따라서 를 만족한다.     

 

 

다음 네 점 를 지나는 least square line을 구하여라.


  

    을 지나므로 주어진 조건을 연립방정식으로 만들어 행렬로 표현하면, , , 일 때 가 되고,

  는 full column rank를 가지므로,
  를 구하면,

   이므로 이다.


그러므로 구하려는 least square line은 이다.                   


그림입니다. 원본 그림의 이름: CLP00000d9c0001.bmp 원본 그림의 크기: 가로 633pixel, 세로 599pixel




in http://matrix.skku.ac.kr/Cal-Book/part1/CS-Sec-1-3.htm

[Note] 위의 동일한 네 점에 대한 곡선 을 구하여라.

(Lagrange Interpolating Polynomial)

 


8.7 복소고유값과 고유벡터

 참고 동영상: http://youtu.be/8_uNVj_OIAkhttp://youtu.be/Ma2er-9LC_g

 실습 사이트: http://matrix.skku.ac.kr/knou-knowls/cla-week-13-sec-8-7.html

 

 

그림입니다. 원본 그림의 이름: mem000007b40006.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

 

 

지금까지는 실수 고유값과 실수 성분을 갖는 고유벡터에만 집중하여 학습하였다. 그러나 실수행렬도 종종 복소고유값과 복소고유벡터를 갖게 된다. 따라서 복소수인 고유값과 그에 대응하는 고유벡터와 함께 복소성분의 행렬도 다룰 수 있어야 한다.



복소공간


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [복소공간]

 

 

 

 

개의 복소수 성분을 갖는 벡터들의 집합을

 

이라 하고, 복소수 -공간이라 한다. 상에서 정의된 벡터의 덧셈과 스칼라배와 같은 방법으로 상의 덧셈연산과 스칼라를 복소수 로 택하면 복소수 -공간 과 마찬가지로 벡터공간이 된다.

 

 

 

 

 


개의 일차독립인 단위벡터를


, , ,


  이라 하면 의 임의의 벡터 로 나타낼 수 있으므로 {, }은 의 기저이다. 이 기저를 에 대한 표준기저(standard basis)라고 한다.



그림입니다. 원본 그림의 이름: mem000013bc0003.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel 복소수 에 대하여 켤레복소수(conjugate)라 하고 을 복소수 크기라 한다. 그리고 복소수를 로 표현하면 이고 이다. 에 대하여 이다.


[예제] http://matrix.skku.ac.kr/RPG_English/9-VT-conjugate.html


내적


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [유클리드 내적]

 

 

 

 

의 두 벡터라 하면 아래에 정의되는

 

 

은 내적의 공리를 모두 만족한다. 이를 유클리드 내적(Euclidean Inner Product)이라 한다.

 

(1)

(2)

(3)

(4) 특히

 

 

 

 


  

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 

 

 

 

 

의 두 벡터 의 유클리드 내적 , 의 유클리드 노름 , 사이의 유클리드 거리 를 각각 다음과 같이 정의한다.

 

(1)

(2)

(3)

 

 

 

 

  

 인 경우 직교(orthogonal)라고 한다.

 

묶음 개체입니다.        

 

벡터 의 유클리드 내적과 유클리드 거리를 구하여라.


   

       


   

                                   


http://sage.skku.edu 또는 http://mathlab.knou.ac.kr:8080/




4*I + 8

sqrt(13)      ■

 


실수행렬의 복소고유값과 고유벡터


   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.7.1

만일 실수행렬 의 고유값이고 가 그에 대응하는 고유벡터라면 의 고유값이고 는 그에 대응하는 고유벡터이다.


고유벡터는 이므로 이고 이므로 이다.

()              

 


행렬의 고유값



   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.7.2

이면, 는 실수인 고유값만을 갖는다.


 의 고유값이라 하면 , ()을 만족한다. 양변에 를 곱하면  이다. 그러므로 . 여기에서 은 0이 아닌 실수이므로, 가 실수임을 보이면 는 실수임이 보여진다. 그런데


        


이므로, 는 실수이다.            

 

 

실계수행렬 의 고유값은 이다. 만일 , 가 둘 다 0이 아니라면, 로 분해됨을 보여라. 여기서 는 원점과 점 를 잇는 선분과 양의 축과의 사이의 각이다.


의 특성방정식은 이므로 이다. , 가 둘 다 0이 아니면 , 이다.


              

    

그림입니다. 원본 그림의 이름: CLP000016f812d4.bmp 원본 그림의 크기: 가로 390pixel, 세로 393pixel      

8.8 Hermitian, 유니타리, 정규행렬

 참고 동영상: http://youtu.be/8_uNVj_OIAkhttp://youtu.be/GLGwj6tzd60  

 실습 사이트: http://matrix.skku.ac.kr/knou-knowls/cla-week-13-sec-8-8.html



 

그림입니다. 원본 그림의 이름: mem000007b40007.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

 

 

지금까지 실수성분을 갖는 차의 정사각행렬 전체의 집합을 으로 나타내었다. 복소수성분을 갖는 차의 정사각행렬 전체의 집합을 로 나타내기로 한다. 에서의 대칭행렬과 직교행렬의 정의는 에서 각각 Hermitian 행렬과 유니타리(unitary) 행렬로 일반화되는데, 이 절에서는 Hermitian 행렬과 유니타리 행렬을 정의하고, 복소행렬의 대각화 문제를 학습한다.

 

 

켤레전치행렬

   


 

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [켤레전치행렬]

 

 

 

 

복소행렬에 대하여

 

 

이라 정의하고, 켤레전치행렬(conjugate transpose)이라 하며 로 나타낸다. 즉,

 

 

 

 



   

 

 

 

 

 

상의 복소벡터에 대해 정의한 유클리드 내적: ,

행렬 가 실수행렬이면 이다.

 

 

 

 

 

 

행렬 , , 에 대하여 의 켤레전치행렬은 각각 다음과 같다.

     , ,      

 

   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.8.1 [켤레전치행렬의 성질]

복소행렬 와 임의의 복소수 에 대하여 다음이 성립한다.

 

 (1)

 (2)

 (3)

 (4)


Hermitian 행렬


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [Hermitian 행렬, ]

 

 

 

 

정사각 복소행렬 이면, Hermitian 행렬이라 한다.

 

 

 

 



의 행렬 이므로 Hermitian 행렬이 아니고, 이므로 Hermitian 행렬이다.


   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.8.2 [Hermitian 행렬의 성질]

행렬 가 Hermitian 행렬일 때, 다음이 성립한다.

 

(1) 임의의 복소벡터 에 대하여 는 실수이다.

(2) 의 고유값은 모두 실수이다.

(3) 의 서로 다른 두 개의 고유값에 대응하는 각각의 고유벡터는 서로 수직이다.

Theorem 8.7.2 & http://people.math.gatech.edu/~meyer/MA6701/module11.pdf

행렬 이므로 Hermitian 행렬이고, 의 특성방정식 의 근을 구하면 1, 이다. 따라서 Hermitian 행렬 의 고유값은 모두 실수임을 확인할 수 있다. 또한 에 대응하는 고유벡터 , 에 대응하는 고유벡터 , 에 대응하는 고유벡터


, ,

   

은 모두 수직이다.        



반-Hermitian 행렬


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [반-Hermitian 행렬, ]

 

 

 

 

복소행렬 이면 -Hermitian(skew-Hermitian) 행렬이라 한다.

 

 

 

 

 

다음 행렬 는 모두 반-Hermitian 행렬임을 쉽게 확인할 수 있다.

                 

 

 

 모든 정사각 복소행렬 는 Hermitian 행렬 와 반-Hermitian 행렬 에 의하여 로 표현할 수 있다. 특히, 는 Hermitian 행렬이고, 는 반-Hermitian 행렬임을 이용한다면, 모든 정사각 복소행렬 는 다음과 같이 표현될 수 있다.

 

 

유니타리 행렬


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [유니타리 행렬, ]

 

 

 

 

행렬 이면 유니타리(unitary) 행렬이라고 한다.

정의에 의하여 가 유니타리 행렬이면 이다. 또한, 번째 열벡터를 라 하면

 

 

이므로 가 유니타리 행렬일 필요충분조건은 의 열들이 에서 정규직교집합을 이룬다.

 

 

 

 

 

 

다음 행렬 는 유니타리 행렬임을 보여라.


        


이므로 이다. 따라서 는 유니타리 행렬이다. 그리고 실제로


    


라 하면 이다. 예를 들면

            



 

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.8.3 [유니타리 행렬의 성질]

복소 -공간 에 유클리드 내적이 정의되어 있고 가 유니타리 행렬이면 다음이 성립한다.

 

(1) 에 대하여 이다. 특히, 이다.

(2) 의 고유값이면 이다.

(3) 의 서로 다른 두 개의 고유값에 대응하는 각각의 고유벡터는 직교한다.

 

 임은 유니타리 행렬변환은 크기를 보존(isometry)함을 보여준다.

 

 

유니타리 닮음과 유니타리 대각화 가능


   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [유니타리 닮음과 유니타리 대각화 가능]

 

 

 

 

두 행렬 에 대하여 인 유니타리 행렬 가 존재하면, 유니타리 닮음(unitarily similar)이라고 하며,

특히 행렬 가 대각선행렬과 유니타리 닮음이면 유니타리 대각화가능(unitarily diagonalizable)하다고 한다.

 

 

 

 

 

두 행렬 를 각각 , 라 하면 는 유니타리 행렬이고, 이므로 는 유니타리 대각화가능하다.   

 

 

 가 유니타리 대각화가능하면 인 유니타리 행렬 가 존재한다. 즉 이므로 라 하면


 


 즉, 유니타리 행렬 의 각 열벡터 의 고유값 에 대응하는 크기 1인 고유벡터임을 알 수 있다.



행렬 를 대각화하는 유니타리 행렬 를 구하여라.


의 고유값은 이고 이에 대응하는 고유벡터는 다음과 같다.

   


이때,  ,

이라 하고, 이라 하면,


는 유니타리 행렬이고


         

Schur 정리


 임의의 복소행렬을 삼각행렬로 바꾸어준다.

 

  

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.8.4 [Schur 정리]

임의의 차 정사각행렬은 자신의 고유값을 대각선 성분으로 갖는 상삼각행렬과 유니타리 닮음이다. 즉,

 

, (). (: 의 고유값, : 유니타리 행렬)

 

행렬 의 고유값을 이라 하고, 수학적 귀납법으로 증명하자.

먼저, 이면 이므로 정리는 성립한다. 이제, 차 이하인 경우에 성립한다고 가정하고 차인 경우를 다음 단계로 보이도록 하자.


에 대응되는 정규화된 고유벡터라 하자.


②Gram-Schmidt 정규직교화과정으로부터 을 포함하는 의 정규직교기저가 존재한다. 이를 이라 하자.

이라 하면 가 정규직교집합이므로 는 유니타리 행렬이다. 또한, 이므로 의 첫 번째 열은 이다. 따라서 는 다음과 같은 형태의 행렬이다.

                            .


  여기서 이고 이므로 의 고유값은

  이다.

④ 귀납법의 가정에 의하여

  인 유니타리 행렬 가 존재한다.

⑤          

    

  여기서 은 유니타리 행렬이다. 따라서 Schur 정리가 증명된다.                  


 [참고 동영상] http://youtu.be/lL0VdTStJDM

 

 일반적으로, 모든 행렬이 유니타리 대각화가능한 것은 아니다.

 

 

정규행렬


 

   

그림입니다. 원본 그림의 이름: CLP00002dd026fd.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 [정규행렬, ]

 

 

 

 

행렬 가 다음을 만족하면 정규행렬(normal matrix)이라고 한다.

 

 

 

 

 

 

다음 행렬 , , 를 만족하므로 정규행렬들의 예이다.


         ,       

 

 

 


임의의 Hermitian 행렬 이므로 이다. 따라서 정규행렬이다. 또한 유니타리 행렬 이므로 정규행렬이다.        

 

정규행렬과 동치인 명제




   

그림입니다. 원본 그림의 이름: CLP00002dd00001.bmp 원본 그림의 크기: 가로 60pixel, 세로 32pixel

 8.8.5

행렬 에 대하여 다음은 동치이다.

 

(1) 는 유니타리 대각화가능하다.

(2) 는 정규행렬이다.

(3) 개의 정규직교인 고유벡터를 갖는다.

 

 

행렬 가 각각 다음과 같은 경우 가 정규행렬이고 의 각 열은 의 정규직교인 고유벡터임을 보여라.

  ,


이므로 이다. 따라서 는 정규행렬이다.

라 하면

,


이므로 , 의 고유벡터이다. 또한, 이고 이므로 , 는 정규직교인 고유벡터이다.    

 

 

의 행렬 를 대각화하여라.


행렬 는 Hermitian 행렬이고 위의 예제에서 고유값이 이다.

에 대응하는 일차독립인 고유벡터는 이므로 정규화하면 

를 얻는다. 같은 방법으로 에 대응하는 고유벡터는

이므로 정규화하면 를 얻는다.

그러므로 로 택하면 이다.      

 

 

 

 

 

 

 

모든 행렬이 대각화가능한 것은 아니지만 Schur 정리를 이용하면 대각화가능하지 않은 행렬 도 대각행렬과 유사한 행렬 와 닮음(similar)이 되게 할 수 있다. 이러한 행렬 Jordan 표준형이라 한다. Jordan 표준형을 이용하면 모든 행렬을 대각행렬과 유사한 행렬 로 바꾸어 행렬 에 관한 계산 및 이론을 전개할 수 있다. 이는 10장에서 소개하기로 한다.

 

 

 

 

 

 


8.9 *선형연립미분방정식

 참고 동영상: http://www.youtube.com/watch?v=c0y5DcNQ8gs  

 실습 사이트: http://matrix.skku.ac.kr/knou-knowls/cla-week-11-sec-8-1.html

         http://matrix.skku.ac.kr/CLAMC/chap8/Page83.htm

              http://matrix.skku.ac.kr/CLAMC/chap8/Page84.htm

              http://matrix.skku.ac.kr/CLAMC/chap8/Page85.htm

              http://matrix.skku.ac.kr/CLAMC/chap8/Page86.htm

              http://matrix.skku.ac.kr/CLAMC/chap8/Page87.htm 


 

그림입니다. 원본 그림의 이름: mem000007b40008.tmp 원본 그림의 크기: 가로 357pixel, 세로 357pixel

 

 

자연과학과 공학의 많은 문제들은 선형연립미분방정식을 푸는 수학적 문제로 바꿀 수 있다. 이 절에서는 행렬의 대각화를 이용하여 선형연립미분방정식을 푸는 방법을 소개한다.

 

그림입니다. 원본 그림의 이름: mem00002e500004.gif 원본 그림의 크기: 가로 1280pixel, 세로 959pixel