© 2026. All rights reserved.
© 2026. 디멘 reserved by 곰댕.
논리학, 철학, 수학을 다루는 블로그입니다.
아래에서 저의 가장 최근 글들을 읽을 수 있습니다.
To read in English, toggle the button in the header.
A blog on logic, philosophy, and mathematics.
You can read my most recent posts below.
한국어로 읽기 위해서는 상단의 토글을 눌러주세요.
니체는 『즐거운 학문』에서 유명한 사고실험을 제시한다. 어느 날 악마가 찾아와, 네가 지금 살고 있는 이 삶을 똑같은 순서 그대로 다시 한번, 그리고 셀 수 없이 여러 번 살게 될 것이라고 속삭인다면 어떻겠는가? 이른바 영원회귀이다.
영원회귀는 보통 실존적 사고실험으로 읽힌다. 그러나 니체는 유고에서 이것을 우주론적 사실로 증명하려 시도하기도 했다. 그리고 필자는 이것이 허황된 시도라고 생각하지 않는다.
이 글에서는 측도론적 역학계의 언어로 영원회귀의 제한된 형태를 정식화하고 증명한다. 결론부터 말하자면, 푸앵카레 재귀정리와 시공간에 대한 근거 있는 가설로부터 다음을 보일 수 있다.
거의 모든 세계에서, 역사의 모든 유한한 구간은 임의로 가까운 형태로 무한히 반복된다.
물론 “거의 모든”과 “임의로 가까운”이 하는 일이 상당하다. 이 단서들이 정확히 무엇을 뜻하는지는 마지막 절에서 다룬다.
이하 $X$는 가분 거리공간separable metric space이다. 즉 $X$에는 가산 조밀부분집합이 존재한다. 우리 우주를 유한한 입자로 채워진 거대한 정육면체로 가정한다면 우주의 상태공간은 $X = [0, 1]^{6n}$이며 ($n$은 우주의 총 입자 개수), $([0, 1] \cap \mathbb{Q})^{6n}$은 $X$의 가산 조밀부분집합이다.
$X$를 우주의 상태공간으로, $T: X \to X$를 한 단위 시간 동안의 동역학으로 생각하자.
정의. 상태 $x$에서 시작하는 길이 $N$의 인생을
\[\Phi\_N(x) = (x, Tx, \ldots, T^{N-1}x) \in X^N\]으로 정의한다. 또한 $X^N$ 위의 거리를 다음과 같이 정의한다.
\[d\big((x_i)_{i<N}, (y_i)_{i<N}\big) = \max_{0 \le i < N} d(x_i, y_i)\]
따라서 두 인생 사이의 거리는 $d(\Phi_N(x), \Phi_N(y)) = \max_{0 \le i < N} d(T^i x, T^i y)$이며, 두 인생이 가깝다는 것은 모든 순간이 가깝고, 그 순서까지 같다는 것이다.
정리 (제한된 영원회귀). $\mu$가 $X$의 보렐 집합 위의 유한측도이며, $T: X \to X$는 가측이고 $\mu$를 보존한다고 하자. 즉 임의의 보렐 집합 $A$에 대해 $\mu(T^{-1}A) = \mu(A)$이다. 이때, 다음이 성립한다:
$\mu$ 측도에서 거의 모든 $x \in X$에 대해 다음이 성립한다. 임의의 $N \in \mathbb{N}$과 $\varepsilon > 0$에 대해, $d(\Phi_N(x), \Phi_N(T^n x)) < \varepsilon$을 만족하는 $n$이 무한히 많다.
즉 거의 모든 세계에서, 지금부터 $N$단위 시간 동안의 역사는 $\varepsilon$ 이내의 오차로 무한히 다시 일어난다. $\Phi_N(T^n x)$가 바로 시각 $n$에서 시작하는 인생이기 때문이다.
에르고딕성은 필요하지 않다는 점에 주목하라. 에르고딕성은 한 번도 실현된 적 없는 인생이 언제가 실현된다는 것을 보장할 때 필요하다. 이미 실현된 인생이 반복된다는 것을 보이는 데에는 측도의 유한성과 상태공간의 가분성만으로 충분하다.
증명의 핵심은 다음 정리이다.
푸앵카레 재귀정리. $A \subseteq X$가 가측집합이라면, $A$의 거의 모든 점은 $A$로 무한히 자주 돌아온다.
증명. $A$의 점 중 한 번도 $A$로 돌아오지 않는 점들의 집합을 $B$라고 하자.
\[B = \{ x \in A : \forall n \ge 1 \;\; T^n x \notin A \}\]먼저 $B, T^{-1}B, T^{-2}B, \ldots$가 서로소임을 보이자. $j < k$에 대해 $x \in T^{-j}B \cap T^{-k}B$라고 하자. 그러면 $y = T^j x \in B$이면서 $T^{k-j}y = T^k x \in B \subseteq A$이다. 즉 $y$는 $A$로 돌아오는데, 이는 $y \in B$에 모순이다.
측도 보존성에 의해 이 집합들의 측도는 모두 $\mu(B)$이다. 서로소인 무한히 많은 집합의 측도의 합은 $\mu(X) < \infty$를 넘을 수 없으므로 $\mu(B) = 0$이다.
이제 $A$로 유한 번만 돌아오는 점 $x$를 생각하자. $x$의 마지막 귀환 시각을 $k$라고 하면 $T^k x \in B$이다. 따라서 그러한 점들의 집합은 $\bigcup_k (A \cap T^{-k}B)$에 포함된다. 각 $T^{-k}B$의 측도는 $\mu(B) = 0$이므로, 이 집합 또한 측도 0이다. ■
증명. $X$가 가분이므로 $X^N$ 또한 가분이며, 따라서 $X^N$의 가산 조밀부분집합 $D_N$이 존재한다. 각 $q \in D_N$과 $r \in \mathbb{Q}^+$에 대해 다음과 같이 정의하자.
\[A_{N,q,r} = \Phi_N^{-1}\big( B(q, r) \big)\]$T$가 가측이므로 $\Phi_N$ 또한 가측이며, 따라서 $A_{N,q,r}$은 가측집합이다. 각 $A_{N,q,r}$에 보조정리를 적용하면, 그 집합으로 무한히 자주 돌아오지 않는 점들의 영집합 $E_{N,q,r}$을 얻는다. 이제 $E$를 모든 $N, q, r$에 대한 $E_{N,q,r}$의 합집합이라고 하자. $E$는 가산 개의 영집합의 합집합이므로 $\mu(E) = 0$이다.
임의의 $x \notin E$와 $N, \varepsilon$를 잡자. $D_N$의 조밀성에 의해, $d(\Phi_N(x), q) < r < \varepsilon/2$를 만족하는 $q \in D_N$과 $r \in \mathbb{Q}^+$를 고를 수 있다. 그러면 $x \in A_{N,q,r}$이고 $x \notin E$이므로, $T^n x \in A_{N,q,r}$을 만족하는 $n$이 무한히 많다. 그러한 각 $n$에 대해 삼각부등식에 의해 다음이 성립한다.
\[d(\Phi_N(T^n x), \Phi_N(x)) \le d(\Phi_N(T^n x), q) + d(q, \Phi_N(x)) < 2r < \varepsilon \quad \blacksquare\]위 정리는 니체의 영원회귀와 네 가지 점에서 다르다.
필자의 생각으로는 유한 불변측도가 가장 받아들이기 힘든 가정이고, 결정론이 그 다음, 가분성이 가장 받아들이기 쉬운 가정이다. 따라서 유한 불변측도와 결정론에 대한 약간의 변호를 제시하고자 한다.
우리의 우주는 현실적으로 무한할 수도 있고, 가능적으로 무한할 수도 있다(가령 매 순간 우주의 크기는 유한하지만 무한히 팽창하는 경우). 이 경우 일반적으로는 재귀를 기대할 수 없다. 그러나 (제한된 형태의) 영원회귀가 요구하는 것은 상태의 정확한 귀환이 아니라 인생의 “충분히 유사한” 귀환이다. 따라서 충분히 유사한 상태들을 동일시한다면, 그 몫집합은 유한하다고 가정할 수 있으며, 이를 이용하면 유한 불변측도라는 가정을 다른 가정으로 대체할 수 있다. 다만 여기에는 몇 가지 주의가 필요하다.
먼저 “충분히 유사함”을 그대로 동치관계로 쓸 수는 없다. 유사성은 일반적으로 추이적이지 않기 때문이다. 대신 상태공간을 관측적으로 구별되지 않는 상태들의 유한한 칸 $P_1, \ldots, P_k$로 분할하고, 같은 칸에 속하는 두 상태를 $x \sim y$로 동일시하자. 그러면 $\sim$는 자동으로 동치관계이며, 길이 $N$의 인생은 칸 번호들의 열 $(i_0, \ldots, i_{N-1})$로 기술된다. 이러한 열은 $k^N$개뿐이다.
그러나 이것만으로는 부족하다. 몫집합 $X/{\sim}$이 유한하더라도, 그 위에서 동역학이 정의되려면 합동 조건 $x \sim y \implies Tx \sim Ty$가 필요하다. 이 조건이 없다면 같은 칸에서 출발한 두 상태가 서로 다른 칸으로 갈 수 있으므로, 거친 기술 수준의 동역학은 결정론적이지 않다. 같은 이유로 논의를 “충분히 큰 크기의 유한한 우주”로 제한하는 것도 그 영역이 $T$-불변일 때만 의미가 있다.
흥미롭게도, 합동 조건이 성립한다면 측도는 아예 필요 없다. $T$가 유한집합 $X/{\sim}$ 위의 사상 $\bar{T}$를 유도하므로, 비둘기집 원리에 의해 칸들의 열은 결국 주기적이 된다. 나아가 $\bar{T}$가 단사라면, 즉 거친 기술 수준에서도 정보가 보존된다면 칸들은 주기적으로 순환한다 (니체의 유고 속 증명도 이와 비슷한 발상에 기대고 있다). 따라서 유한 불변측도라는 측도론적 가정은 “우주는 유한한 해상도에서 자율적이고(즉, $T$-불변이다) 가역적인(즉, $\bar{T}$가 단사이다) 거시 동역학을 갖는다”라는 가정으로 대체될 수 있다.
흔히 결정론은 양자역학에 의해 반박된 것으로 알려져 있지만 이것은 양자역학의 해석 논쟁을 왜곡한 것이다. 결정론적인 양자역학의 해석은 다양하게 제시된 바 있으며 현재까지의 모든 실험 결과와 일관적이다.
English version not yet available.
니체는 『즐거운 학문』에서 유명한 사고실험을 제시한다. 어느 날 악마가 찾아와, 네가 지금 살고 있는 이 삶을 똑같은 순서 그대로 다시 한번, 그리고 셀 수 없이 여러 번 살게 될 것이라고 속삭인다면 어떻겠는가? 이른바 영원회귀이다.
영원회귀는 보통 실존적 사고실험으로 읽힌다. 그러나 니체는 유고에서 이것을 우주론적 사실로 증명하려 시도하기도 했다. 그리고 필자는 이것이 허황된 시도라고 생각하지 않는다.
이 글에서는 측도론적 역학계의 언어로 영원회귀의 제한된 형태를 정식화하고 증명한다. 결론부터 말하자면, 푸앵카레 재귀정리와 시공간에 대한 근거 있는 가설로부터 다음을 보일 수 있다.
거의 모든 세계에서, 역사의 모든 유한한 구간은 임의로 가까운 형태로 무한히 반복된다.
물론 “거의 모든”과 “임의로 가까운”이 하는 일이 상당하다. 이 단서들이 정확히 무엇을 뜻하는지는 마지막 절에서 다룬다.
이하 $X$는 가분 거리공간separable metric space이다. 즉 $X$에는 가산 조밀부분집합이 존재한다. 우리 우주를 유한한 입자로 채워진 거대한 정육면체로 가정한다면 우주의 상태공간은 $X = [0, 1]^{6n}$이며 ($n$은 우주의 총 입자 개수), $([0, 1] \cap \mathbb{Q})^{6n}$은 $X$의 가산 조밀부분집합이다.
$X$를 우주의 상태공간으로, $T: X \to X$를 한 단위 시간 동안의 동역학으로 생각하자.
정의. 상태 $x$에서 시작하는 길이 $N$의 인생을
\[\Phi\_N(x) = (x, Tx, \ldots, T^{N-1}x) \in X^N\]으로 정의한다. 또한 $X^N$ 위의 거리를 다음과 같이 정의한다.
\[d\big((x_i)_{i<N}, (y_i)_{i<N}\big) = \max_{0 \le i < N} d(x_i, y_i)\]
따라서 두 인생 사이의 거리는 $d(\Phi_N(x), \Phi_N(y)) = \max_{0 \le i < N} d(T^i x, T^i y)$이며, 두 인생이 가깝다는 것은 모든 순간이 가깝고, 그 순서까지 같다는 것이다.
정리 (제한된 영원회귀). $\mu$가 $X$의 보렐 집합 위의 유한측도이며, $T: X \to X$는 가측이고 $\mu$를 보존한다고 하자. 즉 임의의 보렐 집합 $A$에 대해 $\mu(T^{-1}A) = \mu(A)$이다. 이때, 다음이 성립한다:
$\mu$ 측도에서 거의 모든 $x \in X$에 대해 다음이 성립한다. 임의의 $N \in \mathbb{N}$과 $\varepsilon > 0$에 대해, $d(\Phi_N(x), \Phi_N(T^n x)) < \varepsilon$을 만족하는 $n$이 무한히 많다.
즉 거의 모든 세계에서, 지금부터 $N$단위 시간 동안의 역사는 $\varepsilon$ 이내의 오차로 무한히 다시 일어난다. $\Phi_N(T^n x)$가 바로 시각 $n$에서 시작하는 인생이기 때문이다.
에르고딕성은 필요하지 않다는 점에 주목하라. 에르고딕성은 한 번도 실현된 적 없는 인생이 언제가 실현된다는 것을 보장할 때 필요하다. 이미 실현된 인생이 반복된다는 것을 보이는 데에는 측도의 유한성과 상태공간의 가분성만으로 충분하다.
증명의 핵심은 다음 정리이다.
푸앵카레 재귀정리. $A \subseteq X$가 가측집합이라면, $A$의 거의 모든 점은 $A$로 무한히 자주 돌아온다.
증명. $A$의 점 중 한 번도 $A$로 돌아오지 않는 점들의 집합을 $B$라고 하자.
\[B = \{ x \in A : \forall n \ge 1 \;\; T^n x \notin A \}\]먼저 $B, T^{-1}B, T^{-2}B, \ldots$가 서로소임을 보이자. $j < k$에 대해 $x \in T^{-j}B \cap T^{-k}B$라고 하자. 그러면 $y = T^j x \in B$이면서 $T^{k-j}y = T^k x \in B \subseteq A$이다. 즉 $y$는 $A$로 돌아오는데, 이는 $y \in B$에 모순이다.
측도 보존성에 의해 이 집합들의 측도는 모두 $\mu(B)$이다. 서로소인 무한히 많은 집합의 측도의 합은 $\mu(X) < \infty$를 넘을 수 없으므로 $\mu(B) = 0$이다.
이제 $A$로 유한 번만 돌아오는 점 $x$를 생각하자. $x$의 마지막 귀환 시각을 $k$라고 하면 $T^k x \in B$이다. 따라서 그러한 점들의 집합은 $\bigcup_k (A \cap T^{-k}B)$에 포함된다. 각 $T^{-k}B$의 측도는 $\mu(B) = 0$이므로, 이 집합 또한 측도 0이다. ■
증명. $X$가 가분이므로 $X^N$ 또한 가분이며, 따라서 $X^N$의 가산 조밀부분집합 $D_N$이 존재한다. 각 $q \in D_N$과 $r \in \mathbb{Q}^+$에 대해 다음과 같이 정의하자.
\[A_{N,q,r} = \Phi_N^{-1}\big( B(q, r) \big)\]$T$가 가측이므로 $\Phi_N$ 또한 가측이며, 따라서 $A_{N,q,r}$은 가측집합이다. 각 $A_{N,q,r}$에 보조정리를 적용하면, 그 집합으로 무한히 자주 돌아오지 않는 점들의 영집합 $E_{N,q,r}$을 얻는다. 이제 $E$를 모든 $N, q, r$에 대한 $E_{N,q,r}$의 합집합이라고 하자. $E$는 가산 개의 영집합의 합집합이므로 $\mu(E) = 0$이다.
임의의 $x \notin E$와 $N, \varepsilon$를 잡자. $D_N$의 조밀성에 의해, $d(\Phi_N(x), q) < r < \varepsilon/2$를 만족하는 $q \in D_N$과 $r \in \mathbb{Q}^+$를 고를 수 있다. 그러면 $x \in A_{N,q,r}$이고 $x \notin E$이므로, $T^n x \in A_{N,q,r}$을 만족하는 $n$이 무한히 많다. 그러한 각 $n$에 대해 삼각부등식에 의해 다음이 성립한다.
\[d(\Phi_N(T^n x), \Phi_N(x)) \le d(\Phi_N(T^n x), q) + d(q, \Phi_N(x)) < 2r < \varepsilon \quad \blacksquare\]위 정리는 니체의 영원회귀와 네 가지 점에서 다르다.
필자의 생각으로는 유한 불변측도가 가장 받아들이기 힘든 가정이고, 결정론이 그 다음, 가분성이 가장 받아들이기 쉬운 가정이다. 따라서 유한 불변측도와 결정론에 대한 약간의 변호를 제시하고자 한다.
우리의 우주는 현실적으로 무한할 수도 있고, 가능적으로 무한할 수도 있다(가령 매 순간 우주의 크기는 유한하지만 무한히 팽창하는 경우). 이 경우 일반적으로는 재귀를 기대할 수 없다. 그러나 (제한된 형태의) 영원회귀가 요구하는 것은 상태의 정확한 귀환이 아니라 인생의 “충분히 유사한” 귀환이다. 따라서 충분히 유사한 상태들을 동일시한다면, 그 몫집합은 유한하다고 가정할 수 있으며, 이를 이용하면 유한 불변측도라는 가정을 다른 가정으로 대체할 수 있다. 다만 여기에는 몇 가지 주의가 필요하다.
먼저 “충분히 유사함”을 그대로 동치관계로 쓸 수는 없다. 유사성은 일반적으로 추이적이지 않기 때문이다. 대신 상태공간을 관측적으로 구별되지 않는 상태들의 유한한 칸 $P_1, \ldots, P_k$로 분할하고, 같은 칸에 속하는 두 상태를 $x \sim y$로 동일시하자. 그러면 $\sim$는 자동으로 동치관계이며, 길이 $N$의 인생은 칸 번호들의 열 $(i_0, \ldots, i_{N-1})$로 기술된다. 이러한 열은 $k^N$개뿐이다.
그러나 이것만으로는 부족하다. 몫집합 $X/{\sim}$이 유한하더라도, 그 위에서 동역학이 정의되려면 합동 조건 $x \sim y \implies Tx \sim Ty$가 필요하다. 이 조건이 없다면 같은 칸에서 출발한 두 상태가 서로 다른 칸으로 갈 수 있으므로, 거친 기술 수준의 동역학은 결정론적이지 않다. 같은 이유로 논의를 “충분히 큰 크기의 유한한 우주”로 제한하는 것도 그 영역이 $T$-불변일 때만 의미가 있다.
흥미롭게도, 합동 조건이 성립한다면 측도는 아예 필요 없다. $T$가 유한집합 $X/{\sim}$ 위의 사상 $\bar{T}$를 유도하므로, 비둘기집 원리에 의해 칸들의 열은 결국 주기적이 된다. 나아가 $\bar{T}$가 단사라면, 즉 거친 기술 수준에서도 정보가 보존된다면 칸들은 주기적으로 순환한다 (니체의 유고 속 증명도 이와 비슷한 발상에 기대고 있다). 따라서 유한 불변측도라는 측도론적 가정은 “우주는 유한한 해상도에서 자율적이고(즉, $T$-불변이다) 가역적인(즉, $\bar{T}$가 단사이다) 거시 동역학을 갖는다”라는 가정으로 대체될 수 있다.
흔히 결정론은 양자역학에 의해 반박된 것으로 알려져 있지만 이것은 양자역학의 해석 논쟁을 왜곡한 것이다. 결정론적인 양자역학의 해석은 다양하게 제시된 바 있으며 현재까지의 모든 실험 결과와 일관적이다.
어느 날 길을 걷다가 아들이 새빨간 거짓말을 하자 아버지가 이제 ‘거짓말쟁이 다리’를 건널 거라며 잔뜩 겁을 준다. “이 다리는 거짓말쟁이가 건너면 반드시 무너진단다.” 오싹한 경고를 들은 아들은 거짓말을 실토하고 진실을 털어놓는다. 아버지는 만족하며 아들과 함께 다리 위로 올랐다. 그 순간, 다리가 아버지의 발밑에서 무너졌다. 아버지가 거짓말을 했기 때문이다. 거짓말쟁이 다리 같은 것은 없으니 말이다.
더글러스 호프스태터, ⟪사고의 유희⟫ (노승영 역)에서 발췌. 해당 우화는 18세기 독일인 크리스티안 겔레르트가 지은 <농부와 아들>이 원본이며, 네덜란드의 수학자 한스 프로이덴탈에 의해 각색되었다.
One day, while they were walking along a road, the son told a blatant lie, so his father frightened him by saying that they were about to cross the “Liar’s Bridge.” “This bridge always collapses when a liar crosses it.” After hearing this chilling warning, the son confessed his lie and told the truth. Satisfied, the father stepped on the bridge with his son. At that moment, the bridge collapsed beneath the father’s feet. It was because the father had lied — for there is no such thing as a Liar’s Bridge.
Excerpted from Douglas Hofstadter’s Metamagical Themas. The original version of this fable was “The Farmer and His Son,” written by the eighteenth-century German author Christian Gellert; it was adapted by the Dutch mathematician Hans Freudenthal.
큰 수의 법칙은 확률론의 가장 유명한 정리 중 하나로, 보통 다음과 같이 소개된다.
통상적으로 소개되는 큰 수의 법칙. 기댓값이 $\mu$인 확률변수를 반복적으로 관측할 때, 관측값들의 평균은 시행 횟수가 커질수록 $\mu$에 가까워진다.
이는 “경험적 확률은 수학적 확률로 수렴한다”, 또는 “통계는 집단이 커질수록 정확해진다” 등의 표어로도 소개된다.
그러나 이들 소개에는 이상한 점이 있다. 이들 소개에 따르면 큰 수의 법칙은 경험의 영역과 수학의 영역을 연결하는 다리이다. 그러나 큰 수의 법칙은 순수 수학의 정리이다. 그렇다면 순수 수학의 정리가 어떻게 우리에게 경험적 사실을 알려줄 수 있을까? 이는 마치 순수 이성만으로 세계에 관한 지식을 얻을 수 있다고 주장한 근대 합리론자들을 연상시키며, 굉장히 미심쩍다.
이 점은 귀납에 관한 수수께끼라는 철학의 유명한 논제를 통해 더욱 명확히 드러낼 수 있다. 흄은 귀납법의 정당성이 자기순환적이라는 사실을 지적한 바 있다. 귀납법의 핵심은 과거에 관측된 규칙성이 미래에도 성립할 것이라는 전제이다. 이것을 시간의 균등성 전제라고 부르자. 그러나 이 전제를 우리가 받아들이는 이유는 그것이 과거부터 줄곧 유효했기 때문이라는 사실에 다름 아니다. 즉 우리는 귀납법의 전제를 귀납적으로 정당화할 수밖에 없다. 이로부터 흄은 귀납법이 선험적·필연적 법칙이 아닌, 인간의 심리적 본성으로부터 비롯되는 사고 습관이라고 결론 내렸다.
흄의 논증은 미래에 대한 진술의 참은 항상 우연적이라는 관찰에 기반한다. 갑자기 우주의 모든 물리 법칙이 바뀌는 것과 같은 극단적 비균등성이 논리적으로 가능하기 때문이다. 따라서 흄에 따르면 “사건들의 기댓값이 특정 값으로 수렴할 것이다”라는 진술 또한 기껏해야 우연적인 참이다. 그러나 이것은 큰 수의 법칙에 다름 아니며, 큰 수의 법칙은 수학 정리이므로 그것의 참은 선험적·필연적이다.
그렇다면 흄이 틀린 것일까? 당연히 그렇지는 않다. 문제는 큰 수의 법칙에 대한 통상적인 소개가 적절치 않다는 것이다. 큰 수의 법칙의 정확한 진술을 살피면 어디에도 “시행”이나 “관측”이나 “경험”에 대한 진술이 없음을 알 수 있다.
정리. 확률공간 $(\Omega, \mathcal{F}, \mathbb{P})$ 위에 확률변수들의 열 $X_1, X_2, \cdots: \Omega \to E \; (E = \mathbb{R})$가 독립동일분포independent and identically distributed; iid이며, $E[X_n] = \mu < \infty$라고 하자. 다음이 성립한다.
\[\mathbb{P}\left( \left\{ \omega \in \Omega: \left| \frac{1}{n} \sum^n_{k=1}X_k(\omega) - \mu \right| > \epsilon \right\} \right) \to 0.\]
- 약한 큰 수의 법칙. 임의의 $\epsilon > 0$에 대해,
\[\mathbb{P}\left( \left\{ \omega \in \Omega: \lim_{n \to \infty} \frac{1}{n} \sum^n_{k=1}X_k(\omega) = \mu \right\} \right) = 1.\]
- 강한 큰 수의 법칙.
그렇다면 “큰 수의 법칙”을 “경험적 확률은 수학적 확률로 수렴한다”라고 해석하는 것은 어디서 유래하는 것일까? 문제의 핵심은 독립동일분포라는 표현에 있다. 어떤 두 확률변수 $X, Y: \Omega \to E$가 독립동일분포라는 것은 $X$와 $Y$의 분포가 동일하고(즉, 임의의 $e \in E$에 대해 $\mathbb{P}(X = e) = \mathbb{P}(Y = e)$), 임의의 $x, y \in E$에 대해 다음이 성립하는 것이다(편의상 $E$가 이산이라고 전제).
\[\begin{align} &\mathbb{P}(\{\omega \in \Omega : X(\omega) = x \land Y(\omega) = y \}) \\ &= \mathbb{P}(\{ \omega \in \Omega: X(\omega) = x\}) \cdot \mathbb{P}(\{ \omega \in \Omega: Y(\omega) = y\}) \end{align}\]가령 두 개의 동전을 던질 때, 첫 번째 동전에서 앞면이 나올 확률과 두 번째 동전에서 앞면이 나올 확률이 $p$로 같으며, 첫 번째 동전의 결과가 두 번째 동전의 결과에 영향을 주지 않을 때, 두 동전은 독립동일분포로 이해할 수 있다.
또다른 예시로, 똑같은 동전을 연달아 던질 때 각각의 시행은 독립동일분포로 가정하는 것이 자연스럽다. 매 시행에서 동전이 앞면이 나올 확률은 $p$로 같으며, 과거의 시행은 미래에 영향을 주지 않기 때문이다. 그리고 이 가정이 성립한다면, 큰 수의 법칙에 의해 $N$번의 시행 중 앞면이 나온 횟수는 $N$이 커질수록 $pN$에 수렴할 것이다.
문제는, 실제 세계에서는 주어진 통계적 시행들이 독립동일분포인지를 결코 확실히 알 수 없다는 것이다. 바로 이것이 흄이 지적한 바이다. 앞선 예시와 같이 똑같은 동전을 연달아 던지는 것조차 독립동일분포가 되리라 확신할 수 없다. 왜냐하면 동전을 던지던 도중 갑자기 우주의 물리 법칙이 뒤바뀌어 앞면이 나올 확률이 100%가 될 수도 있기 때문이다.
결국 똑같은 동전을 연달아 던지는 것이 독립동일분포라고 주장하기 위해서는 다름아닌 시간의 균등성 전제가 필요하다. 일반적으로, 큰 수의 법칙을 “경험적 확률은 수학적 확률로 수렴한다” 등과 같이 해석하는 것은 암암리에 시간의 균등성 전제를 가정한다. 그러나 시간의 균등성 전제는 순수 수학이 아닌 물리학 내지 형이상학에 속한다. 이것을 도식적으로 다음과 같이 나타낼 수 있다.
큰 수의 법칙(수학/선험적) + 시간의 균등성 전제(물리학 내지 형이상학/경험적) ⇒ 통상적으로 소개되는 큰 수의 법칙(경험적)
따라서 큰 수의 법칙을 둘러 싼 오해는 순수 수학의 정리와 형이상학적 전제가 불분명하게 뒤섞인 데 있다. 필자 또한 이런 이유로 학창 시절에 큰 수의 법칙을 이해하는 데 어려움이 있었던지라 모처럼 글로 정리해 보았다.
The Law of Large Numbers is one of the most celebrated theorems in probability theory and is usually presented as follows.
Commonly presented form of the Law of Large Numbers. When a random variable with expectation $\mu$ is observed repeatedly, the sample mean of the observations approaches $\mu$ as the number of trials increases.
This is often summarised by slogans such as “empirical probability converges to mathematical probability” or “statistics become more accurate as sample size grows”.
There is, however, a puzzling aspect to such presentations. They suggest that the Law of Large Numbers bridges the realm of experience and the realm of mathematics. Yet the law itself is a theorem of pure mathematics. How, then, can a theorem of pure mathematics tell us anything about empirical facts? The suggestion is reminiscent of early modern rationalists who claimed that pure reason alone yields knowledge of the world, which is a strikingly dubious claim.
The issue can be clarified via the well-known philosophical riddle concerning induction. Hume observed that the justification of induction is circular. Induction rests on the assumption that regularities observed in the past will persist into the future; call this the uniformity of time assumption. We accept this assumption only because it has held in the past. In other words, we can justify the principle of induction only inductively. Hume therefore concluded that induction is not an a priori, necessary law but a habit of mind arising from human psychology.
Hume’s argument rests on the observation that statements about the future are always contingently true: extreme forms of temporal non-uniformity, such as a sudden, universal change of physical laws, are logically possible. Hence, on Hume’s view, the claim that “the expectations of events will converge to a particular value” is at best contingently true. Yet that claim is precisely the Law of Large Numbers, and the Law of Large Numbers, as a mathematical theorem, is a priori and necessary.
Does this mean Hume was wrong? Of course not. The problem lies in the usual presentation of the Law of Large Numbers. A careful reading of the actual theorem shows that it contains no assertions about “trials” or “observations”.
Theorem. Let $(\Omega, \mathcal{F}, \mathbb{P})$ be a probability space and let $X_1, X_2, \ldots: \Omega \to E \; (E = \mathbb{R})$ be a sequence of random variables that are independent and identically distributed (iid) with $E[X_n] = \mu < \infty$. Then the following hold.
\[\mathbb{P}\left( \left\{ \omega \in \Omega: \left| \frac{1}{n} \sum^n_{k=1}X_k(\omega) - \mu \right| > \epsilon \right\} \right) \to 0.\]
- Weak Law of Large Numbers. For every $\epsilon > 0$,
\[\mathbb{P}\left( \left\{ \omega \in \Omega: \lim_{n \to \infty} \frac{1}{n} \sum^n_{k=1}X_k(\omega) = \mu \right\} \right) = 1.\]
- Strong Law of Large Numbers.
So where does the interpretation “empirical probability converges to mathematical probability” come from? The key is the phrase “independent and identically distributed”. Two random variables $X, Y: \Omega \to E$ are said to be independent and identically distributed when their marginal distributions coincide and, for any $x,y \in E$, (assuming for simplicity that $E$ is discrete) the following holds:
\[\begin{align} &\mathbb{P}(\{\omega \in \Omega : X(\omega) = x \land Y(\omega) = y \}) \\ &= \mathbb{P}(\{ \omega \in \Omega: X(\omega) = x\}) \cdot \mathbb{P}(\{ \omega \in \Omega: Y(\omega) = y\}). \end{align}\]For example, when tossing two coins, if the probability of heads on the first coin and on the second coin is $p$ and the outcome of the first toss does not influence the outcome of the second, then the two tosses may be modelled as independent and identically distributed.
Another example is successive tosses of the same coin. It is natural to model them as iid, for each toss has the same probability $p$ of heads, and past tosses do not affect future ones. If this assumption holds, the Law of Large Numbers implies that the number of heads in $N$ tosses will be close to $pN$ for large $N$.
The problem is that, in the actual world, we can never know with certainty that a given sequence of trials is iid. This is precisely Hume’s point. Even successive tosses of the same coin cannot be guaranteed to be iid: the physical laws governing the coin might suddenly change so that heads occurs with probability 1.
Hence the claim that successive tosses are iid assumes the uniformity of time. In practice, interpreting the Law of Large Numbers as “empirical probability converges to mathematical probability” implicitly assumes the uniformity of time. Yet the uniformity of time is not a theorem of pure mathematics but an assumption from physics or metaphysics. We may express this schematically:
Law of Large Numbers (mathematics / a priori) + uniformity of time assumption (physics or metaphysics / empirical) ⇒ Commonly presented Law of Large Numbers (empirical)
Thus the misunderstanding surrounding the Law of Large Numbers arises from an ambiguous mixing of a mathematical theorem with a metaphysical assumption. I too found the law difficult to understand as a student for precisely this reason, so I have written this post to clarify the point.
유형론에서 섹션section이라는 용어는 두 가지 의미로 등장한다.
정의. 사상 $r: B \to A$과 $s: A \to B$가 $rs \sim \mathrm{id}_A$를 만족한다면 $s$를 $r$의 섹션이라고 하고, $r$을 $s$의 리트랙트라고 한다. 즉, 다음과 같이 정의한다.
\[\begin{gather} \mathrm{sec}(r) := \sum_{s': A \to B} rs' \sim \mathrm{id}_A\\ \mathrm{ret}(s) := \sum_{r': A \to B} r's \sim \mathrm{id}_B \end{gather}\]
정의. $B$가 $A$에 대한 유형족type family이라고 하자. $x: A$가 주어졌을 때 $b(x): B(x)$라면, $b$를 $B$의 섹션이라고 부른다.
두 가지 의미의 섹션은 연관돼 있다. 첫 번째 정의를 기하학적으로 해석하면, 섹션 $s: A \to B$는 공간 $A$를 공간 $B$에 한 단면으로서 포함시키는 사상이며, 그에 대응되는 리트랙트 $r: B \to A$는 공간 $B$를 공간 $A$로 투영하는 사상이다. 이로부터 몇 가지 사실을 고찰할 수 있다.
일반적으로, “확대 후 축소”는 원 공간의 관계를 보존하지만 “축소 후 확대”는 보존하지 않는다. 이는 $r, s$가 리트랙트-섹션 관계일 때, $rs \sim \mathrm{id}_A$이지만 일반적으로 $sr \sim \mathrm{id}_B$이지는 않음을 시사한다.
섹션은 각 $a: A$에 대해 $r$의 $a$-섬유fiber에서 한 점을 선택한다. 이는 도형의 $z$-등고면은 각각 특정한 $z$-좌푯값의 선택과 같은 것으로 이해할 수 있다.
그림에서 섬유는 한 가닥의 실처럼 보이며, 이것은 “섬유”라는 이름의 유래이다.

한편 $b$가 $A$에 대한 유형족 $B$의 섹션일 때, $b$는 각 $a: A$에 대해 $b(a): B(a)$를 선택한다. 여기서 $B(a)$는 $\mathrm{pr}_1: \sum_{x: A}B(x) \to A$의 $a$-섬유와 자연스럽게 동치이다. 따라서 $b$가 $B$의 (두 번째 의미에서의) 섹션일 때, $\lambda x. b(x)$는 $\mathrm{pr}_1$의 (첫 번째 의미에서의) 섹션이다.

물론, $\lambda x . b(x)$는 $b$와 판단적으로 같다. 따라서 섹션의 두 번째 의미는 첫 번째 의미의 특수한 사례이다.
In type theory, the term “section” appears in two different contexts.
Definition. Given maps $r: B \to A$ and $s: A \to B$, if $rs \sim \mathrm{id}_A$, then $s$ is called a section of $r$, and $r$ is called a retract of $s$. That is,
\[\begin{gather} \mathrm{sec}(r) := \sum_{s': A \to B} rs' \sim \mathrm{id}_A\\ \mathrm{ret}(s) := \sum_{r': A \to B} r's \sim \mathrm{id}_B \end{gather}\]
Definition. Let $B$ be a type family over $A$. Given $x: A$, if $b(x): B(x)$, then $b$ is called a section of $B$.
The two meanings of section are related. Regarding the first definition, geometrically, a section $s: A \to B$ is a map that includes the space $A$ as a (cross-)section in the space $B$, while the corresponding retract $r: B \to A$ is a map that projects the space $B$ onto the space $A$. From this, several observations can be made:
Generally, “expanding and then contracting” preserves the relationship of the original space, but “contracting and then expanding” does not. This suggests that when $r$ and $s$ are in a retract-section relationship, $rs \sim \mathrm{id}_A$, but $sr \sim \mathrm{id}_B$ does not generally hold.
A section chooses a point in the $a$-fibre of $r$ for each $a: A$. This can be understood as analogous to selecting a specific $z$-coordinate value for each $z$-contour of a figure.
In the diagram, the fibre appears like a strand of thread, which is the origin of the term “fibre.”

On the other hand, when $b$ is a section of a type family $B$ over $A$, $b$ chooses $b(a): B(a)$ for each $a: A$. Here, $B(a)$ is naturally equivalent to the $a$-fibre of $\mathrm{pr}_1: \sum_{x: A}B(x) \to A$. Therefore, when $b$ is a section of $B$ (in the second sense), $\lambda x. b(x)$ is a section of $\mathrm{pr}_1$ (in the first sense).

Of course, $\lambda x . b(x)$ is judgementally equal to $b$. Thus, the second meaning of section is just a special case of the first.
정의. 사상 $f: A \to X$에 대해 다음과 같이 정의한다.
\[\text{is-surj}(f) := \prod_{x: X} \| \mathrm{fib}_f(x) \|\]
위의 정의는 “임의의 공역의 원소는 공집합이 아닌 역사상fiber을 가진다”를 표현한 것이다. 이와 동치인 정의는 “공역이 치역과 같다”이다. 후자의 정의를 유형론적으로 옮기기 위해서 다음과 같이 정의한다.
정의. 다음의 가환 도식에서 $\iota$가 임베딩이고, 가환성이 호모토피 $H: f \sim \iota q$에 의해 목격된다고 하자.
다음이 만족될 경우 $\iota$가 치역 임베딩의 보편 성질을 만족한다고 한다: 임의의 임베딩 $m: C \to X$에 대해, 전치 합성
\[- \circ (q, H): \hom_X(\iota, m) \to \hom_X(f, m)\]이 동치 관계equivalence이다.
위의 정의는 치역 임베딩의 보편 성질이 정말로 맞다. 즉, 다음이 성립한다.
정리. 사상 $f: A \to X$에 대해 다음이 성립한다.
\[\begin{align} &\operatorname{im} f := \sum_{x: X} \| \mathrm{fib}_f(x) \| \\ &q_f : A \to \operatorname{im} f; &&a \mapsto (f(a), |(a, \mathrm{refl}_{f(a)})) \\ &\iota_f : \operatorname{im} f \to X; &&\mathrm{pr}_1 \end{align}\]
- 다음은 치역 임베딩의 보편 성질을 만족한다.
- 치역 임베딩의 보편 성질을 만족하는 임베딩은 유일하다. 즉, 두 임베딩 $i: B \to X$와 $i’: B’ \to X$가 보편 성질을 만족한다면, 다음의 가환 도식을 만족하는 동치 관계 $e: B \simeq B’$의 유형은 수축 가능하다contractible.
유형론적으로 치역을 정의했으므로, 전사성의 두 번째 정의를 제시할 수 있다.
정리. 다음의 가환 도식에서 $\iota: B \to X$가 임베딩이라고 하자. $q$가 전사일 필요충분조건은 $\iota$가 치역 임베딩의 보편 성질을 만족하는 것이다.
정의. 유형 $X$에 대해, 다음과 같이 정의한다.
\[\mathcal{P}(X) := X \to \mathsf{Prop}\]
즉, $X$의 멱집합은 $X$에 대한 명제들의 모임family of propositions over $X$이다. 이는 가령 자연수의 부분집합인 짝수 집합이 “짝수임”이라는 자연수에 대한 명제와 대응하는 것으로 이해할 수 있다. 한편, $X$의 멱집합을 $X \to 2$로 정의하지 않는 이유는 이 경우 $X$의 멱집합이 결정 가능한 명제로 한정되기 때문이다.
칸토어 정리. $f: X \to \mathcal{P}(X)$라면 $f$는 전사가 아니다.
증명. $X$에 대한 다음의 명제 $Q : X \to \mathsf{Prop}$를 정의하자.
\[Q := \lambda x. \lnot f(x, x)\]$f$가 전사라면 $g: \prod_{P: X \to \mathsf{Prop}} \| \mathrm{fib}_f(P) \|$가 존재한다. 따라서 $g(Q) : \| \mathrm{fib}_f(Q) \|$이다.
다음과 같이 $\mathrm{fib}_f(Q) \to \varnothing$을 정의하자.
\[(x, p) \mapsto \mathrm{tr}(f(x, x), p)(f(x, x))\]명제적 절단propositional truncation의 정의로부터, 위의 사상은 $\| \mathrm{fib}_f(Q) \| \to \varnothing$을 유도한다. 따라서 $g(Q) \to \varnothing$이다. 이는 모순이므로 $f$는 전사가 아니다. ■
Definition. For a map $f: A \to X$, we define:
\[\text{is-surj}(f) := \prod_{x: X} \| \mathrm{fib}_f(x) \|\]
The above definition expresses that “every element of the codomain has a non-empty fibre.” An equivalent definition is “the codomain equals the image.” To translate the latter definition into type theory, we define as follows:
Definition. Consider the following commutative diagram where $\iota$ is an embedding, and the commutativity is witnessed by a homotopy $H: f \sim \iota q$.
We say that $\iota$ satisfies the universal property of the image inclusion if the following holds: for any embedding $m: C \to X$, the precomposition
\[- \circ (q, H): \hom_X(\iota, m) \to \hom_X(f, m)\]is an equivalence.
The above definition indeed satisfies the universal property of the image inclusion. That is, the following holds:
Theorem. For a map $f: A \to X$, the following holds:
\[\begin{align} &\operatorname{im} f := \sum_{x: X} \| \mathrm{fib}_f(x) \| \\ &q_f : A \to \operatorname{im} f; &&a \mapsto (f(a), |(a, \mathrm{refl}_{f(a)})) \\ &\iota_f : \operatorname{im} f \to X; &&\mathrm{pr}_1 \end{align}\]
- The following satisfies the universal property of the image inclusion:
- The embedding satisfying the universal property of the image inclusion is unique. That is, if two embeddings $i: B \to X$ and $i’: B’ \to X$ satisfy the universal property, then the type of equivalences $e: B \simeq B’$ satisfying the following commutative diagram is contractible.
Having defined the image type-theoretically, we can now present the second definition of surjectivity.
Theorem. In the following commutative diagram, let $\iota: B \to X$ be an embedding. Then $q$ is surjective if and only if $\iota$ satisfies the universal property of the image inclusion.
Definition. For a type $X$, we define:
\[\mathcal{P}(X) := X \to \mathsf{Prop}\]
That is, the power set of $X$ is the family of propositions over $X$. For instance, the set of even natural numbers corresponds to the proposition “is even” over the natural numbers. On the other hand, the power set of $X$ is not defined as $X \to 2$ because, in this case, the power set of $X$ would be restricted to decidable propositions.
Cantor’s Theorem. For any $f: X \to \mathcal{P}(X)$, $f$ is not surjective.
Proof. Define the following proposition $Q : X \to \mathsf{Prop}$ over $X$:
\[Q := \lambda x. \lnot f(x, x)\]If $f$ were surjective, then there would exist $g: \prod_{P: X \to \mathsf{Prop}} \| \mathrm{fib}_f(P) \|$. Hence, $g(Q) : \| \mathrm{fib}_f(Q) \|$.
Define $\mathrm{fib}_f(Q) \to \varnothing$ as follows:
\[(x, p) \mapsto \mathrm{tr}(f(x, x), p)(f(x, x))\]From the definition of propositional truncation, the above map induces $\| \mathrm{fib}_f(Q) \| \to \varnothing$. Thus, $g(Q) \to \varnothing$, which is a contradiction. Therefore, $f$ is not surjective. ■