콘텐츠로 이동

무엇이 측정 가능한지는 누가 정하는가

수학과 물리학은 세계를 더 정밀하게 기술하는 도구를 내놓아 왔다. 동시에 그 기술이 어디서 멈추는지도 정리와 실험의 형태로 밝혀 왔다. 무리수를 유한한 숫자로 완전히 적을 수 없다는 사실, 3차원 공간의 모든 부분집합에 부피를 부여할 수 없다는 사실, 충분히 강한 형식 체계 안에는 증명도 반증도 되지 않는 명제가 있다는 사실은 흔히 아직 풀리지 않은 문제처럼 읽힌다. 그러나 이 한계들은 단순한 미해결 목록이 아니다. 그것은 형식 체계가 세계를 포착할 때 스스로 드러내는 경계선이며, 그 경계를 긋는 일에는 언제나 무엇을 정당한 앎으로 인정할 것인가라는 판정이 들어 있다.

여기서 한계란 한 체계가 자기 형식으로 다룰 수 있는 영역과 다룰 수 없는 영역 사이에 긋는 획정선이다. 이 획정선은 세 층위에서 나타난다. 무엇을 수치로 측정할 수 있는가. 무엇을 형식 안에서 증명할 수 있는가. 무엇을 초기 조건으로부터 결정하거나 예측할 수 있는가. 세 층위는 서로 다른 분야에서 발견되었지만, 모두 앎의 성립 조건을 묻는 같은 구조를 공유한다.

측정가능성부터 보자. 무리수는 측정가능한가에서 드러나듯, 원의 둘레나 정사각형의 대각선은 유한한 자릿수로 정확히 적히지 않는다. 측정은 언제나 오차를 동반한다. 이 오차는 단순히 도구가 조악해서 생기는 부수적 결함이 아니라, 연속량을 수치 표현 안으로 들여올 때 발생하는 형식의 조건이다. 부피란 무엇인가는 이 문제를 더 멀리 밀고 간다. 측도론은 3차원 공간의 모든 부분집합에 부피를 부여하려는 시도가 특정 공리적 설정 아래에서 좌초할 수 있음을 보여준다. 부피를 줄 수 없는 집합, 곧 비가측 집합이 존재한다. 측정은 세계가 본래 지닌 속성을 그대로 읽어 내는 작업에 머물지 않는다. 그것은 특정 조건 아래에서 무엇을 값으로 인정할지를 정하는 구조화 행위다.

이 통찰은 미시 세계에서 한층 날카로워진다. 벨의 부등식과 양말 상자 모델이 보여 주듯, 측정 이전에 입자의 값이 이미 정해져 있다는 고전적 실재론은 실험에서 강한 압박을 받는다. 벨의 부등식 위반은 측정이 미리 존재하는 값을 확인하는 절차로만 이해될 수 없음을 가리킨다. 아인슈타인은 왜 양자역학을 불완전하다고 보았는가에서 아인슈타인이 끝내 받아들이기 어려워했던 것도 이 지점이었다. 측정 전에는 물리량이 확정되어 있지 않다는 해석은, 그에게 실재에 대한 기술을 포기하는 것처럼 보였다. 양자 얽힘과 초광속 통신 불가능성이 정리하듯, 얽힘의 강한 상관관계조차 그 자체로는 정보가 되지 못한다. 측정은 실재를 비추는 중립적 거울이 아니라, 무엇이 확정된 값으로 다뤄지는지를 정하는 경계 위에서 작동한다.

증명가능성도 같은 형태를 띤다. AI 관점에서 가장 놀라운 수학적 업적 3가지가 첫머리에 두는 괴델의 불완전성 정리는, 충분한 산술을 표현하는 일관된 형식 체계 안에 그 체계로는 증명도 반증도 할 수 없는 명제가 있음을 보였다. 증명 가능성의 한계가 형식 내부에서 증명된 것이다. 한계가 결핍이 아니라 정리라는 사실이 여기서 가장 선명하게 드러난다. 형식 바깥으로 나오면 또 다른 조건이 기다린다. 그레고리 페렐만이 푸앵카레 추측을 해결했을 때, 그 증명은 페렐만의 선언만으로 수학적 사실이 된 것이 아니었다. 수학 공동체의 오랜 검토와 승인 절차를 통과하면서 비로소 받아들여졌다. 증명은 왜 믿을 수 있는가가 분석하듯, 수학적 증명조차 개인의 직접 검토만으로 수용되지 않고 공동체적 검증과 신뢰 인프라를 통과한다. 무엇이 증명되었는가는 형식의 문제이지만, 무엇이 증명으로 인정되는가는 절차와 승인의 문제다.

예측가능성은 세 번째 획정선을 보탠다. 나비 효과에서 인류 원리까지는 결정론적 체계에서도 장기 예측이 불안정해질 수 있음을 보여준다. 초기 조건의 작은 차이가 장기 결과를 크게 갈라놓는다면, 결정되어 있다는 말과 예측할 수 있다는 말은 더 이상 같은 말이 아니다. 같은 글에서 다루는 인류 원리 역시 이론이 관찰자를 어떻게 위치시키는가에 따라 설명의 성격이 달라질 수 있음을 보여준다. 예측의 한계는 미래가 본래 결정되어 있는가라는 형이상학적 물음과 연결되지만, 그보다 먼저 형식이 초기 조건으로부터 결과를 끌어내는 능력에 그어진 선을 드러낸다. 무한을 유한하게 통제하는 현대 수학의 원리가 콤팩트성을 통해 무한을 유한한 덮개로 다루는 기법을 보여주듯, 수학은 다룰 수 없는 것을 다룰 수 있는 형태로 옮기는 장치들의 집합이기도 하다. 그 장치가 닿지 못하는 자리에 한계가 놓인다.

세 층위를 겹쳐 놓으면 공통 구조가 보인다. 형식 체계는 세계와 만나는 자리에서 “여기까지가 측정·증명·결정 가능하다”는 선을 긋는다. 그 선은 체계 내부의 계산만으로 언제나 자동 산출되지 않는다. 비가측 집합의 존재는 선택공리를 포함한 특정 공리적 설정에 의존하고, 증명의 수용은 공동체의 승인 절차에 의존하며, 예측의 신뢰는 모델 평가의 기준에 의존한다. 한계를 긋는 일은 순수한 형식 조작만으로 끝나지 않는다. 그것은 무엇을 정당한 앎으로 다룰지 정하는 판정 행위다. 계산의 영토를 획정하는 오만한 통치 권력이 지적하듯, 어떤 규칙이 문제를 사유 가능하게 만드는지를 정하는 힘은 그 자체로 권력의 형식을 띤다.

여기에 한 가지 반론이 가능하다. 이 모든 한계는 결국 잠정적 한계일 뿐이며, 도구와 이론이 발전하면 경계는 점점 뒤로 밀려나리라는 반론이다. 측정 정밀도가 높아지면 오차가 줄어든다는 사실은 이 반론을 그럴듯하게 만든다. 하지만 정밀도가 줄이는 것과 정리가 긋는 것은 종류가 다르다. 비가측 집합의 존재, 불완전성, 벨 부등식의 위반은 측정 장비를 개선해 좁힐 수 있는 단순 오차가 아니다. 그것들은 특정 체계가 어떤 조건 아래에서 작동하는지를 드러내는 구조적 사실이다. 경계가 어디 있는지를 증명할 수 있다는 점이 이 한계들의 핵심이다. 한계는 무지의 잔여가 아니라, 앎의 형식이 자기 모양을 드러내는 자리다.

그래서 한계를 안다는 것은 세계를 덜 아는 일이 아니다. 그것은 앎이 어떤 경계 위에서 성립하는지를 아는 일이다. 측정은 무엇을 값으로 다룰지의 경계를 드러낸다. 증명은 무엇을 참으로 승인할지의 경계를 드러낸다. 예측은 무엇을 결정 가능한 것으로 셈할지의 경계를 드러낸다. 이 경계들을 긋고, 검토하고, 승인하는 절차가 곧 검증의 인식론이다. 그리고 그 절차가 어디서 멈춰도 좋은지를 묻는 일이 검증은 어디서 멈추는가의 물음으로 이어진다. 수학과 물리학의 한계는 형이상학의 질문, 곧 무엇이 실재하는가와, 인식론의 질문, 곧 무엇을 앎으로 인정하는가가 한 점에서 만나는 자리다. 그 자리에서 우리가 발견하는 것은 세계의 결함이 아니다. 앎이 자기 경계를 스스로 증명할 수 있다는 드문 능력이다.

이어 읽기

작성 정보

초안 작성: Claude · Claude Opus 4.8 · Max Adaptive Thinking
검토·개고: ChatGPT · GPT-5.5 Extended Thinking

인포그래픽

작성일: 2026년 6월 4일