고유값(Eigenvalue)과 고유벡터(Eigenvector)는 행렬이 공간을 어떻게 변형시키는지 보여주는 핵심 개념이다.
특히 중요한 점은, 어떤 벡터들은 행렬 변환을 거쳐도 방향이 유지된다는 것이다. 이때 얼마나 늘어나거나 줄어드는지를 나타내는 값이 고유값이고, 그 방향을 유지하는 벡터가 고유벡터다.
고유벡터란
일반적으로 행렬을 벡터에 곱하면 방향과 크기가 모두 바뀐다.
하지만 특정 벡터는:
방향은 유지되고
길이만 변한다
이런 특수한 경우가 존재한다.
이 벡터를 고유벡터(Eigenvector)라고 한다.
자료에서도 “행렬을 곱해도 방향이 유지되는 벡터”를 고유벡터라고 설명한다.
고유값이란
고유벡터가 얼마나 늘어나거나 줄어드는지를 나타내는 값이 고유값(Eigenvalue)이다.
수식으로는 이렇게 표현한다.
Ax = \lambda x
여기서:
- A → 행렬
- x → 고유벡터
- \lambda → 고유값
즉:
행렬 A를 곱했더니
방향은 그대로이고
길이만 λ배 바뀐다
라는 의미다.
자료에서도 “자기 자신 방향으로 다시 나오는 벡터”라는 관점으로 설명된다.
왜 중요한가
행렬은 공간을 늘리고, 줄이고, 회전시키는 변환이다.
그런데 고유벡터는:
변환 후에도 방향이 유지되는 특별한 축
이라고 볼 수 있다.
즉, 고유값과 고유벡터는:
행렬이 공간을 어떤 방향으로 얼마나 변형시키는지
를 보여준다.
고유값 계산 흐름
고유값은 아래 과정으로 계산한다.
1. 기본 식에서 시작
Ax = \lambda x
2. 한쪽으로 정리
(A - \lambda I)x = 0
여기서 I는 항등행렬이다.
3. 0벡터 말고 다른 해가 존재해야 함
고유벡터는 0벡터가 아니어야 한다.
따라서:
(A - λI)
가 역행렬을 가지면 안 된다.
4. determinant 조건 사용
그래서 아래 조건을 만족해야 한다.
\det(A - \lambda I) = 0
이 식을 풀면 고유값이 나온다.
자료에서도 determinant가 0이어야 역행렬이 존재하지 않고, 그 조건으로 고유값을 계산한다고 설명된다.
2×2 행렬 예시
행렬이 아래와 같다고 하자.
A =\begin{bmatrix}2 & 3 \\3 & 2\end{bmatrix}
고유값 계산은:
\det(A - \lambda I) = 0
을 푸는 과정이다.
\begin{vmatrix}2-\lambda & 3 \\3 & 2-\lambda\end{vmatrix}= 0
전개하면:
(2-\lambda)^2 - 9 = 0
즉:
\lambda = 5,\ -1
이 두 값이 고유값이다.
고유벡터는 어떻게 구할까
고유값을 구한 뒤 다시:
(A - \lambda I)x = 0
에 대입해서 x를 구하면 된다.
예를 들어 \lambda = 5를 넣으면:
45도 방향 벡터
들이 고유벡터가 된다.
반대로 \lambda = -1이면:
반대 방향으로 뒤집히는 벡터
들이 고유벡터가 된다.
자료에서도 특정 방향 벡터를 넣었을 때 5배로 늘어나거나, 방향이 뒤집혀 나오는 예시로 설명한다.
determinant가 왜 등장하는가
고유값 계산에서 determinant가 나오는 이유는:
역행렬이 없어야
0벡터 외의 해가 존재하기 때문
이다.
즉:
\det(A - \lambda I)=0
은 단순 공식 암기가 아니라:
“고유벡터가 존재할 조건”
을 의미한다.
PCA와 고유값 연결
고유값과 고유벡터는 PCA와 직접 연결된다.
PCA에서는:
- 분산이 큰 방향 → 고유벡터
- 그 크기 → 고유값
으로 해석한다.
즉:
데이터가 가장 많이 퍼진 방향
을 찾는 과정이 PCA다.
핵심 흐름
행렬 변환
→ 방향 유지 벡터 찾기
→ 고유벡터
→ 얼마나 늘어나는가
→ 고유값
고유벡터는 행렬 변환 후에도 방향이 유지되는 벡터이고, 고유값은 그 벡터가 얼마나 늘어나거나 줄어드는지를 나타내는 값이다.
'AI & Machine Learning > ML 수학' 카테고리의 다른 글
| PCA란 무엇인가 | 공분산 행렬과 고유벡터로 이해하는 차원 축소 (0) | 2026.06.02 |
|---|---|
| Gradient, Jacobian, Hessian 정리 | 입력과 출력 차원에 따라 미분 결과가 달라지는 이유 (0) | 2026.06.02 |
| 선형 변환과 행렬 정리 | 행렬을 함수처럼 이해하는 방법 (0) | 2026.06.01 |
| 벡터 Norm과 Inner Product 정리 | 벡터 크기와 방향 유사도를 계산하는 방법 (0) | 2026.06.01 |
| Span, Basis, Dimension 정리 | 벡터 공간을 표현하는 최소 기준 (0) | 2026.06.01 |
