대각선을 기준으로 접으면 겹치는 행렬(대칭행렬)은 가장 다루기 좋은 행렬이다. 고윳값이 모두 실수이고, 서로 수직인 고유벡터들로 공간 전체를 덮을 수 있다. 그래서 대칭행렬이 하는 일은 늘 “서로 수직인 몇 개의 축을 따라 늘이거나 줄이기”다. 데이터의 공분산 행렬, 곡면의 휘어짐(헤세 행렬), 그래프 라플라시안이 모두 대칭이라 이 정리가 곳곳에 쓰인다. 대칭이 아니면 고유벡터가 기울어지거나 고윳값이 복소수가 될 수 있다.
예시로 보기
\(S = \begin{pmatrix}2 & 1\\ 1 & 2\end{pmatrix}\)는 대칭이다. 고윳값은 3과 1, 고유벡터는 \((1, 1)\)과 \((1, -1)\)로 서로 수직이다. 길이 1로 맞춘 \(\mathbf{q}_1 = \frac{1}{\sqrt2}(1, 1)\), \(\mathbf{q}_2 = \frac{1}{\sqrt2}(1, -1)\)을 쓰면
\[S = 3\,\mathbf{q}_1\mathbf{q}_1^\top + 1\,\mathbf{q}_2\mathbf{q}_2^\top = \frac32\begin{pmatrix}1 & 1\\ 1 & 1\end{pmatrix} + \frac12\begin{pmatrix}1 & -1\\ -1 & 1\end{pmatrix}.\]단위원을 \(S\)로 보내면 \((1, 1)\) 방향으로 3배, \((1, -1)\) 방향으로 1배 늘어난 타원이 된다. 두 축이 수직인 것이 대칭의 선물이다. 반면 대칭이 아닌 \(\begin{pmatrix}1 & 1\\ 0 & 2\end{pmatrix}\)의 고유벡터 \((1, 0)\)과 \((1, 1)\)은 45°로 기울어져 있다. \(\mathbf{q}\)들을 열로 세운 것이 아래 정리의 \(Q\)다.
점선 단위원이 파란 타원이 된다. 왼쪽(대칭)은 두 고유벡터가 수직이고 타원의 긴 축·짧은 축과 정확히 겹친다. 오른쪽(대칭 아님)은 두 고유벡터가 45°로 벌어져 있고, 타원의 축과도 겹치지 않는다1.
정의
실수 대칭행렬 \(S = S^\top\)(\(n \times n\))에 대해
- 모든 고윳값이 실수다.
- 서로 다른 고윳값의 고유벡터는 서로 수직이다.
- 정규직교 고유벡터 \(n\)개가 있어 \(S = Q\Lambda Q^\top\)(\(Q^\top Q = I\))로 대각화된다. 곧 \(S = \lambda_1\mathbf{q}_1\mathbf{q}_1^\top + \cdots + \lambda_n\mathbf{q}_n\mathbf{q}_n^\top\)(스펙트럼 분해)2.
역. 실수 행렬 \(A\)가 \(A = Q\Lambda Q^\top\)(\(Q\) 직교, \(\Lambda\) 실수 대각)로 쓰이면 \(A^\top = Q\Lambda^\top Q^\top = A\)라 대칭이다. 그래서 실수 행렬에서 “직교하는 고유벡터로 대각화된다” \(\iff\) “대칭”이다.
가정 목록. 실수 성분, 그리고 \(S^\top = S\). 복소수 행렬에서는 대칭 대신 켤레 전치와 같다는 조건(에르미트)이 같은 역할을 한다.
스펙트럼 분해의 각 항 \(\mathbf{q}_i\mathbf{q}_i^\top\)은 \(\mathbf{q}_i\) 방향으로의 사영 행렬이다. 대칭행렬은 “서로 수직인 방향들로 사영한 뒤 각각 \(\lambda_i\)배 해서 더하는 것”이다.
증명
실수 고윳값과 수직성은 짧게 보이고, 겹치는 고윳값까지 포함한 대각화는 스케치한다.
증명 펼치기
1. 실수 고윳값. \(S\mathbf{x} = \lambda\mathbf{x}\)(\(\mathbf{x}\)는 복소수일 수 있음)라 하자. 켤레를 \(\bar{\ }\)로 쓴다.
- \(\bar{\mathbf{x}}^\top S\mathbf{x} = \lambda\,\bar{\mathbf{x}}^\top\mathbf{x}\)이고 \(\bar{\mathbf{x}}^\top\mathbf{x} = \sum\vert x_i\vert ^2 > 0\)은 실수다.
- 좌변의 켤레는 \(\mathbf{x}^\top S\bar{\mathbf{x}}\)(\(S\)가 실수)이고, 이것은 \(1 \times 1\)이라 전치해도 같아 \(\bar{\mathbf{x}}^\top S^\top\mathbf{x} = \bar{\mathbf{x}}^\top S\mathbf{x}\)다. 켤레가 자기 자신이므로 좌변은 실수다.
- 그래서 \(\lambda = \frac{\bar{\mathbf{x}}^\top S\mathbf{x}}{\bar{\mathbf{x}}^\top\mathbf{x}}\)는 실수다.
2. 수직. \(S\mathbf{x}_1 = \lambda_1\mathbf{x}_1\), \(S\mathbf{x}_2 = \lambda_2\mathbf{x}_2\), \(\lambda_1 \ne \lambda_2\)라 하자.
- \(\lambda_1\mathbf{x}_1^\top\mathbf{x}_2 = (S\mathbf{x}_1)^\top\mathbf{x}_2 = \mathbf{x}_1^\top S^\top\mathbf{x}_2 = \mathbf{x}_1^\top S\mathbf{x}_2 = \lambda_2\mathbf{x}_1^\top\mathbf{x}_2\).
- 빼면 \((\lambda_1 - \lambda_2)\mathbf{x}_1^\top\mathbf{x}_2 = 0\)이고, \(\lambda_1 \ne \lambda_2\)라 \(\mathbf{x}_1^\top\mathbf{x}_2 = 0\).
3. 대각화 [증명 스케치]. 모든 정사각 행렬은 직교 행렬 \(Q\)로 \(S = QTQ^\top\)(\(T\) 위삼각, 슈어 분해)로 쓸 수 있다. \(S\)가 대칭이면 \(T = Q^\top SQ\)도 대칭인데, 대칭인 위삼각행렬은 대각행렬뿐이다. 그래서 \(T = \Lambda\). 겹치는 고윳값이 있어도 맞는다2. ∎
스스로 설명해 보기
1. 2단계에서 \((S\mathbf{x}_1)^\top\mathbf{x}_2 = \mathbf{x}_1^\top S\mathbf{x}_2\)가 되려면 무엇이 필요한가?
\((S\mathbf{x}_1)^\top = \mathbf{x}_1^\top S^\top\)이고, 여기서 \(S^\top = S\)(대칭)을 써야 \(\mathbf{x}_1^\top S\mathbf{x}_2\)가 된다. 대칭이 아니면 이 단계에서 막힌다.
2. 3단계에서 “대칭인 위삼각행렬은 대각”인 이유는?
위삼각이라 대각 아래가 0이고, 대칭이라 대각 위는 아래를 비춘 값이니 역시 0이다.
이 정리의 핵심 아이디어는?
”\(\mathbf{x}^\top S\mathbf{y} = \mathbf{y}^\top S\mathbf{x}\)“(대칭성)를 고유벡터에 대입하면, 고윳값이 실수여야 하고 서로 다른 고유 방향은 수직이어야 한다는 결론이 나온다.
같은 생각을 쓰는 다른 상황은?
푸리에 급수의 사인·코사인들이 서로 직교하는 이유도 같다. 두 번 미분하는 연산(대칭인 “행렬”)의 서로 다른 고윳값에 대한 고유함수이기 때문이다(푸리에 급수).
가정이 필요한 이유
| 가정 | 없으면 | 예 |
|---|---|---|
| 대칭 \(S^\top = S\) | 고유벡터가 수직이 아닐 수 있다 | \(\begin{pmatrix}1 & 1\\ 0 & 2\end{pmatrix}\): 고유벡터 \((1, 0)\), \((1, 1)\), 내적 1 |
| 대칭 | 고윳값이 실수가 아닐 수 있다 | 90° 회전 \(\begin{pmatrix}0 & -1\\ 1 & 0\end{pmatrix}\): 고윳값 \(\pm i\) |
| 대칭 | 대각화 자체가 안 될 수 있다 | \(\begin{pmatrix}1 & 1\\ 0 & 1\end{pmatrix}\) |
예제
그래프 라플라시안. 그래프에서 \(L = D - A\)(\(D\)는 차수의 대각행렬, \(A\)는 인접 행렬)는 대칭이다.
- 대칭: \(A\)가 대칭이고 \(D\)는 대각이라 \(L\)도 대칭이다. 스펙트럼 정리로 실수 고윳값과 직교 고유벡터를 가진다.
- 이차형식: \(\mathbf{x}^\top L\mathbf{x} = \sum_{\{i, j\} \in E}(x_i - x_j)^2 \ge 0\)(\(\in\)은 “~에 속한다”)이라 고윳값이 모두 0 이상이다.
- 고윳값 0: \(\mathbf{x}^\top L\mathbf{x} = 0\)이려면 모든 간선의 양 끝 값이 같아야 한다. 곧 연결 성분마다 상수인 벡터다. 그래서 고윳값 0의 개수(고유공간의 차원)가 연결 성분의 수다.
활용
- 주성분 분석. 데이터의 공분산 행렬은 대칭이라 직교하는 주축과 분산(고윳값)으로 분해된다. 고윳값이 큰 축 몇 개로 데이터를 요약한다(특잇값 분해).
- 스펙트럼 군집화. 그래프 라플라시안의 작은 고윳값에 대한 고유벡터로 정점을 좌표화해 무리를 나눈다3.
- 최적화. 헤세 행렬은 대칭이라 고윳값의 부호로 극소·극대·안장점을 가린다(양의 정부호).
- 알고리즘에서: 연결 성분의 수만 필요하면 고윳값을 구하지 않고 깊이 우선 탐색(DFS)으로 \(O(\vert V\vert + \vert E\vert )\)에 센다. DFS가 찾은 덩어리마다 그 점들에서만 1이고 나머지는 0인 벡터가 곧 라플라시안 \(L\)의 고윳값 0에 대한 고유벡터다.
연결
- 선수: 대각화와 행렬 거듭제곱, 정규직교 기저
- 이어지는 개념: 양의 정부호 행렬과 이차형식, 특잇값 분해
- 이산수학과의 연결: 연결 성분의 수 = 라플라시안의 고윳값 0의 개수
자주 하는 오해
틀렸다. 대칭행렬에서 배운 성질이라 모든 행렬에 맞는다고 기억하기 쉽다. 서로 다른 고윳값의 고유벡터는 늘 독립이지만, 수직은 대칭일 때만 보장된다. \(\begin{pmatrix}1 & 1\\ 0 & 2\end{pmatrix}\)의 고유벡터 \((1, 0)\)(고윳값 1)과 \((1, 1)\)(고윳값 2)은 45°를 이룬다. 증명에서 \(S^\top = S\)를 쓰는 단계가 빠지면 결론도 무너진다.
확인 문제
C1 스펙트럼 정리를 쓰라.
답: 실수 대칭행렬 \(S\)는 고윳값이 모두 실수이고, 정규직교 고유벡터로 \(S = Q\Lambda Q^\top\)(\(Q^\top Q = I\))로 대각화된다. 곧 \(S = \sum\lambda_i\mathbf{q}_i\mathbf{q}_i^\top\).
C2 \(S = \begin{pmatrix}3 & 1\\ 1 & 3\end{pmatrix}\)을 \(Q\Lambda Q^\top\)로 분해하라.
답: 고윳값 4(\((1, 1)\)), 2(\((1, -1)\)). \(Q = \frac{1}{\sqrt2}\begin{pmatrix}1 & 1\\ 1 & -1\end{pmatrix}\), \(\Lambda = \operatorname{diag}(4, 2)\). 확인: \(4 \cdot \frac12\begin{pmatrix}1 & 1\\ 1 & 1\end{pmatrix} + 2 \cdot \frac12\begin{pmatrix}1 & -1\\ -1 & 1\end{pmatrix} = S\).
C3 대칭행렬에서 서로 다른 고윳값의 고유벡터가 수직인 증명의 핵심 등식과 그 근거는?
답: \(\lambda_1\mathbf{x}_1^\top\mathbf{x}_2 = (S\mathbf{x}_1)^\top\mathbf{x}_2 = \mathbf{x}_1^\top S\mathbf{x}_2 = \lambda_2\mathbf{x}_1^\top\mathbf{x}_2\). 가운데 등호가 \(S^\top = S\)에서 나온다. 빼면 \((\lambda_1 - \lambda_2)\mathbf{x}_1^\top\mathbf{x}_2 = 0\).
C4 서로 다른 고윳값의 고유벡터가 수직이 아닌 행렬을 들라.
답: \(\begin{pmatrix}1 & 1\\ 0 & 2\end{pmatrix}\). 고유벡터 \((1, 0)\)과 \((1, 1)\)의 내적은 1이다. 대칭이 아니다.
-
22_spectral-theorem_plot.py로 그렸고, \(S\)의 고윳값 3, 1과 고유벡터의 수직, 타원의 가장 긴 반지름이 \((1, 1)\) 방향으로 3인 것, 대칭이 아닌 행렬의 타원 긴 축이 두 고유벡터와 다른 것을 같은 코드로 확인했다. ↩
-
Strang, Introduction to Linear Algebra 5판, 6.4절 “Symmetric Matrices”(실수 고윳값, 직교 고유벡터, \(S = Q\Lambda Q^\top\), 슈어 분해로 한 증명, 스펙트럼 분해). ↩ ↩2
-
스펙트럼 군집화는 von Luxburg, “A tutorial on spectral clustering”(Statistics and Computing, 2007)에 정리되어 있다. 라플라시안의 영공간 차원과 연결 성분 수의 관계는 22_spectral-theorem_verify.py에서 무작위 그래프로 확인했다. ↩