고유값과 고유벡터 정리 | 행렬 변환 후에도 방향이 유지되는 벡터

고유값(Eigenvalue)과 고유벡터(Eigenvector)는 행렬이 공간을 어떻게 변형시키는지 보여주는 핵심 개념이다.

특히 중요한 점은, 어떤 벡터들은 행렬 변환을 거쳐도 방향이 유지된다는 것이다. 이때 얼마나 늘어나거나 줄어드는지를 나타내는 값이 고유값이고, 그 방향을 유지하는 벡터가 고유벡터다.


고유벡터란

일반적으로 행렬을 벡터에 곱하면 방향과 크기가 모두 바뀐다.

하지만 특정 벡터는:

방향은 유지되고
길이만 변한다

이런 특수한 경우가 존재한다.

이 벡터를 고유벡터(Eigenvector)라고 한다.

자료에서도 “행렬을 곱해도 방향이 유지되는 벡터”를 고유벡터라고 설명한다.


고유값이란

고유벡터가 얼마나 늘어나거나 줄어드는지를 나타내는 값이 고유값(Eigenvalue)이다.

수식으로는 이렇게 표현한다.

Ax = \lambda x

여기서:

  • A → 행렬
  • x → 고유벡터
  • \lambda → 고유값

즉:

행렬 A를 곱했더니
방향은 그대로이고
길이만 λ배 바뀐다

라는 의미다.

자료에서도 “자기 자신 방향으로 다시 나오는 벡터”라는 관점으로 설명된다.


왜 중요한가

행렬은 공간을 늘리고, 줄이고, 회전시키는 변환이다.

그런데 고유벡터는:

변환 후에도 방향이 유지되는 특별한 축

이라고 볼 수 있다.

즉, 고유값과 고유벡터는:

행렬이 공간을 어떤 방향으로 얼마나 변형시키는지

를 보여준다.


고유값 계산 흐름

고유값은 아래 과정으로 계산한다.

1. 기본 식에서 시작

Ax = \lambda x


2. 한쪽으로 정리

(A - \lambda I)x = 0

여기서 I는 항등행렬이다.


3. 0벡터 말고 다른 해가 존재해야 함

고유벡터는 0벡터가 아니어야 한다.

따라서:

(A - λI)

가 역행렬을 가지면 안 된다.


4. determinant 조건 사용

그래서 아래 조건을 만족해야 한다.

\det(A - \lambda I) = 0

이 식을 풀면 고유값이 나온다.

자료에서도 determinant가 0이어야 역행렬이 존재하지 않고, 그 조건으로 고유값을 계산한다고 설명된다.


2×2 행렬 예시

행렬이 아래와 같다고 하자.

A =\begin{bmatrix}2 & 3 \\3 & 2\end{bmatrix}

고유값 계산은:

\det(A - \lambda I) = 0

을 푸는 과정이다.

\begin{vmatrix}2-\lambda & 3 \\3 & 2-\lambda\end{vmatrix}= 0

전개하면:

(2-\lambda)^2 - 9 = 0

즉:

\lambda = 5,\ -1

이 두 값이 고유값이다.


고유벡터는 어떻게 구할까

고유값을 구한 뒤 다시:

(A - \lambda I)x = 0

에 대입해서 x를 구하면 된다.

예를 들어 \lambda = 5를 넣으면:

45도 방향 벡터

들이 고유벡터가 된다.

반대로 \lambda = -1이면:

반대 방향으로 뒤집히는 벡터

들이 고유벡터가 된다.

자료에서도 특정 방향 벡터를 넣었을 때 5배로 늘어나거나, 방향이 뒤집혀 나오는 예시로 설명한다.


determinant가 왜 등장하는가

고유값 계산에서 determinant가 나오는 이유는:

역행렬이 없어야
0벡터 외의 해가 존재하기 때문

이다.

즉:

\det(A - \lambda I)=0

은 단순 공식 암기가 아니라:

“고유벡터가 존재할 조건”

을 의미한다.


PCA와 고유값 연결

고유값과 고유벡터는 PCA와 직접 연결된다.

PCA에서는:

  • 분산이 큰 방향 → 고유벡터
  • 그 크기 → 고유값

으로 해석한다.

즉:

데이터가 가장 많이 퍼진 방향

을 찾는 과정이 PCA다.


핵심 흐름

행렬 변환
→ 방향 유지 벡터 찾기
→ 고유벡터
→ 얼마나 늘어나는가
→ 고유값

고유벡터는 행렬 변환 후에도 방향이 유지되는 벡터이고, 고유값은 그 벡터가 얼마나 늘어나거나 줄어드는지를 나타내는 값이다.