콘텐츠로 이동

검증이 신뢰를 대체할 때 — 수학적 증명에서 알고리즘 판정까지의 인식 인프라

검증은 두 가지 일을 동시에 수행한다

검증은 한 진술의 불확실성을 줄이는 절차이면서, 그 진술을 공적 판단으로 받아들이게 만드는 인가 장치이기도 하다. 첫 번째 기능은 인식론적이다. 어떤 증명, 계산, 판정, 기록이 규칙을 따랐는지 확인한다. 두 번째 기능은 제도적이다. 확인된 결과를 누가 지식으로, 판정으로, 책임 있는 결정으로 승인하는지 정한다. 검증에 대한 현대적 혼란은 이 두 기능이 한 단어 안에 겹쳐 있기 때문에 발생한다.

이 글에서 인식 인프라는 개인이 직접 이해하지 못하는 판단을 공동체가 수용할 수 있게 만드는 장치들의 결합을 뜻한다. 여기에는 형식 언어, 검토 절차, 도구, 기록 체계, 전문가 공동체, 오류 수정 관행, 항소 가능성, 책임 귀속 구조가 포함된다. 인식 인프라는 지식을 자동 생산하는 마법적 장치와 구별된다. 그것은 이해가 개인의 머릿속에서 완결되지 않을 때, 이해의 일부를 외부 절차와 공동체적 장치에 배분하는 구조다.

수학적 증명은 이 문제를 가장 선명하게 보여준다. 수학은 오래도록 직접 검토 가능한 지식의 이상을 대표했다. 증명은 공리와 추론 규칙을 따라가면 누구나 참에 도달할 수 있는 기호의 길처럼 여겨졌다. 현대 수학의 여러 장면은 이 이상을 그대로 유지하기 어렵게 만들었다. 한 사람이 처음부터 끝까지 따라갈 수 없는 증명, 컴퓨터 계산에 의존하는 증명, 형식 검증기를 통과해야만 완결되는 증명이 등장했다. 이때 핵심 변화는 증명의 소멸보다 증명이 받아들여지는 조건의 이동에 있다. 그 조건은 개인적 이해에서 인식 인프라로 옮겨 간다.

증명은 왜 믿을 수 있는가가 증명에 대한 믿음의 조건을 수학 공동체 내부에서 추적했다면, 여기서 필요한 다음 질문은 그 믿음이 어떤 인프라 위에서 작동하는가이다. 믿음의 대상이 수학자 개인에서 공동체, 형식 시스템, 소프트웨어, 검증 기록으로 이동할 때, 우리는 더 많은 앎을 축적하기보다 다른 방식으로 앎을 구성하게 된다.

형식주의의 꿈은 전체 보증에서 국소 검증으로 이동했다

힐베르트 프로그램은 수학 전체를 명확한 형식 체계 안에 배열하려는 야심을 품었다. 이 야심의 핵심은 수학적 진술을 직관이나 권위에 의존하지 않는 기호 조작의 질서로 만드는 데 있었다. 모든 증명이 형식화될 수 있고, 그 형식 체계의 무모순성이 확보될 수 있다면, 수학적 확실성은 인간 심리나 공동체 관습에서 벗어난다. 증명의 권위는 규칙의 공개성과 절차의 반복 가능성에서 나온다.

괴델 이후 이 꿈은 같은 형태로 지속될 수 없게 되었다. 불완전성 정리는 충분히 강한 형식 체계가 자기 자신의 완전성과 무모순성을 내부에서 모두 보증할 수 없다는 한계를 드러냈다. 이 사건은 형식화의 지위를 바꾸었다. 형식화는 수학 전체를 한 번에 닫는 최종 보증에서, 특정한 추론 구간을 엄밀하게 점검하는 국소적 검증 장치로 옮겨 갔다.

이 이동은 중요하다. 형식 체계는 수학적 이성의 절대 왕국이라는 약속에서 물러난다. 형식 체계는 오류를 줄이고, 추론의 흔적을 남기고, 검토 가능한 단위로 증명을 분해하는 인프라가 된다. 이때 수학적 확실성은 순수한 직관의 산물에서 설계된 검증 환경의 산물로 재배치된다. 인간은 계산을 수행하는 동시에, 어떤 계산이 검증 가능한 지식으로 인정될 수 있는지 그 조건을 설계하는 존재다. 이 점에서 계산의 조건을 다시 설계한 인간 수학의 능력은 인식 인프라의 한 축을 제공한다.

수학의 계보는 직관에서 형식으로, 형식에서 인프라로 이동한다. 직관은 출발점일 수 있지만 최종 심급으로 남기 어렵다. 형식은 규칙을 제공하고, 인프라는 그 규칙의 적용, 기록, 검토, 승인을 떠맡는다. 인프라는 이 공백을 채운다. 그것은 인간이 직접 붙들 수 없는 추론을 공동체적으로 붙드는 장치다.

이해 없이 수용하는 일은 어떻게 가능한가

컴퓨터 보조 증명은 인식 인프라의 문제를 실천의 표면으로 끌어올렸다. 애플과 하켄의 4색 정리 증명, 헤일스의 케플러 추측 증명과 Flyspeck 프로젝트는 같은 난점을 공유한다. 증명은 타당한 절차를 거치지만, 그 절차 전체는 한 인간의 직관적 파악 안에 잘 들어오지 않는다. 검증은 계속 이루어지고, 검증하는 주체는 한 명의 독립된 독자에서 분산된 장치들의 결합으로 바뀐다. 코드, 증명 보조기, 검토자, 데이터 파일, 공동체 규범, 오류 수정 절차가 함께 검증 주체를 구성한다.

이 분산은 수학적 지식의 새로운 형식이다. 이해가 개인의 내면에서 완결된다는 가정은 복잡한 증명 앞에서 작동 범위를 잃는다. 현대 수학에서 이해는 종종 전체를 한눈에 파악하는 능력에서, 어느 부분을 누구의 검토에 맡길 수 있는지, 어떤 형식화가 충분한지, 어떤 도구의 출력이 어떤 범위에서 신뢰 가능한지 판별하는 능력으로 바뀐다.

이 지점에서 직관의 권위가 낮아진다. 직관의 파산 선고가 보여주는 것처럼, 수학은 인간 감각에 익숙한 세계를 확장하면서 동시에 그 감각의 한계를 드러낸다. 바나흐-타르스키 역설 같은 결과는 직관이 수학적 진리의 최종 법정으로 기능하기 어렵다는 사실을 드러낸다. 모든 방향을 담는다는 것이 다루는 Kakeya 문제 역시 마찬가지다. 면적, 방향, 포함이라는 익숙한 감각은 수학적 구조 안에서 낯선 방식으로 재배열된다. 이때 검증 가능한 형식은 직관이 받아들이기 어려운 진술을 지식으로 수용하게 만드는 통로가 된다.

따라서 핵심 질문은 이해 없는 수용의 가능성보다 분산된 이해의 정당화 조건에 있다. 이미 수학은 여러 층위에서 이해의 분산을 수행해 왔다. 더 중요한 질문은 분산된 이해가 어떤 조건에서 정당한 수용으로 바뀌는가이다. 정당한 수용에는 최소한 세 조건이 필요하다. 기준이 공개되어야 하고, 오류를 수정할 수 있어야 하며, 검증 권한은 특정 주체의 독점으로 굳어지지 않는 구조를 가져야 한다. 이 세 조건이 무너지면 검증은 지식의 인프라에서 권위의 외피로 변질된다.

수학 검증과 알고리즘 판정은 같은 구조를 공유한다

알고리즘 판정은 수학 검증과 놀라울 만큼 유사한 외형을 갖는다. 양쪽 모두 개인이 직접 확인하기 어려운 복잡한 절차를 통과한 결과를 제시한다. 양쪽 모두 코드, 모델, 형식 규칙, 데이터, 검토 절차에 의존한다. 양쪽 모두 "사람의 자의적 판단"보다 "규칙에 따른 산출"을 더 신뢰할 수 있다는 약속을 내세운다. 이 유사성 때문에 알고리즘 판정은 종종 수학적 검증의 권위를 빌린다.

검증 사회의 일반 구조를 분석한 신뢰는 어떻게 검증으로 대체되는가의 핵심도 여기서 다시 작동한다. 검증은 신뢰를 제거하기보다 신뢰가 놓이는 위치를 바꾸는 절차다. 수학 검증에서는 신뢰가 수학자 개인에서 공동체의 검토 절차, 형식 체계, 증명 보조기의 구현으로 이동한다. 알고리즘 판정에서는 신뢰가 심사자의 설명에서 모델 개발자, 데이터 수집 과정, 플랫폼의 정책, 외부 감사, 운영 로그로 이동한다.

두 체계는 "이해 없이 수용할 수 있게 만드는 인프라"를 공유한다. 사용자는 대출 심사 모델의 내부 가중치를 직접 이해하기 어렵다. 환자는 의료 우선순위 알고리즘의 훈련 데이터와 목적 함수를 검토하기 어렵다. 플랫폼 이용자는 계정 정지 모델의 위험 점수 산정 방식을 알기 어렵다. 이들의 위치는 대규모 증명 앞의 독자와 닮아 있다. 전체 과정을 직접 따라갈 수 없으므로, 절차와 인프라의 신뢰 가능성을 통해 결과를 받아들이게 된다.

여기서 변증의 긴장이 생긴다. 수학 검증과 알고리즘 판정은 같은 메커니즘을 공유하되 서로 다른 권위 조건을 갖는다. 수학 검증의 대상은 주로 형식적 타당성이다. 알고리즘 판정의 대상은 사람의 권리, 자원 배분, 위험 분류, 사회적 기회다. 수학에서 한 정리가 형식적으로 타당하다는 말과, 어떤 사람이 복지 대상에서 제외되어도 된다는 말은 서로 다른 종류의 결론이다. 전자는 진술의 논리적 위치를 정하고, 후자는 제도적 결과를 발생시킨다.

권위의 조건은 거버넌스에서 갈라진다

수학 검증의 인프라도 권위, 전문성, 중심부와 주변부, 접근성의 차이를 갖는다. 증명 보조기와 형식 검증 환경도 도구의 구현과 유지보수에 의존한다. 이런 조건 속에서도 수학 검증의 인프라는 대체로 공개된 기준, 재검토 가능한 기록, 오류 수정의 관행, 공동체적 반박 가능성을 핵심 조건으로 삼는다. 정리가 받아들여졌더라도 오류가 발견되면 수정되거나 철회될 수 있다. 권위는 검토 가능성 안에서 유지된다.

알고리즘 판정의 인프라는 복지 위험 점수, 의료 우선순위 점수, 플랫폼 계정 제재 같은 장면에서 이 조건을 쉽게 약화한다. 모델은 영업비밀로 보호되고, 데이터는 개인정보와 소유권의 장벽 안에 숨겨지며, 감사는 형식적 체크리스트로 축소되고, 피해자는 판정 이유를 이해할 수 있는 언어를 얻기 어렵다. 검증을 통과했다는 문장은 결과에 대한 항의를 멈추게 만드는 방패가 된다. 검증이 제도적 인가로 곧장 전환될 때, 타당성은 정당성의 자리를 차지한다.

이 분기는 영지식 증명과 블록체인 담론에서도 확인된다. 블록체인 영지식 증명의 인식론적 위상이 다루는 것처럼, 수학적 검증은 어떤 계산이 규칙대로 수행되었는지 강하게 보장할 수 있다. 그 계산을 어떤 사회적 관계 안에서 사용할지, 검증 결과가 누구에게 어떤 부담을 배분하는지, 실패했을 때 책임을 어디로 회수할지는 별도의 문제다. 암호학적 타당성은 사회적 정당성과 별도의 층위에서 작동한다.

따라서 인식 인프라의 핵심은 기술적 정확도보다 거버넌스 구조에 있다. 어떤 기준으로 검증하는가. 누가 기준을 정하는가. 누가 이의를 제기할 수 있는가. 오류가 발견되면 어떤 절차로 수정되는가. 판정의 영향을 받는 사람은 이해 가능한 설명을 얻을 수 있는가. 독립 검토는 실제로 독립적인가. 이 글에서 말하는 책임은 도덕적 비난의 배분보다 설명 책임, 판단 책임, 제도 설계 책임의 회수 가능성에 가깝다. 기술 공급자, 운영 기관, 심사자, 규제자 사이에서 이 책임이 회수 가능한 구조로 남을 때 검증은 정당성의 절차로 작동한다.

문해력은 인식 인프라를 읽는 능력으로 바뀐다

검증이 인식 인프라로 이동한 시대에 문해력은 텍스트 해독 능력을 넘어 인식 인프라를 읽는 능력으로 확장된다. 읽는 사람은 이제 문장과 함께 그 문장이 어떤 절차를 통과했는지, 어떤 기관이 승인했는지, 어떤 검증이 생략되었는지, 어떤 종류의 신뢰가 자신에게 전가되었는지를 읽어야 한다. 신뢰의 분배로서의 문해력이 제시한 관점은 여기서 수학, 알고리즘, 플랫폼, 교육의 문제를 하나의 축으로 묶는다. 현대 문해력은 신뢰를 어디에 둘지, 어디서 보류할지, 어떤 검증을 요구할지를 배분하는 능력이다.

이 능력은 개인의 비판적 태도와 제도적 접근 조건이 함께 있을 때 작동한다. 개인은 모든 코드를 읽기 어렵고, 모든 증명을 검토하기 어렵고, 모든 모델의 학습 데이터를 확인하기 어렵다. 그래서 문해력은 인프라 문해력으로 확장되어야 한다. 인프라 문해력은 결과값을 의심하는 능력에서 더 나아가, 결과값이 권위를 얻는 경로를 추적하는 능력이다. 검증 보고서, 감사 절차, 설명 요구권, 항소 구조, 공개 기준, 오류 기록을 읽는 능력이 여기에 포함된다.

하이브리드 사고와 검증 가능성이 제기한 판단 책임의 문제도 같은 결론으로 이어진다. 인간과 AI가 결합한 판단에서 핵심은 도구 사용 여부보다 판단의 확장이 검증 가능한 구조 안에서 이루어지는가이다. AI 출력이 인간 판단을 돕더라도, 그 출력이 어떤 근거로 채택되었는지 설명할 수 없을 때 판단 책임은 공중에 흩어진다. 반대로 도구가 복잡하더라도 검증 경로와 책임 회수 구조가 확보되면, 외부 장치는 판단의 대체물보다 판단의 확장 조건에 가까워진다.

병리는 검증의 성공이 곧 승인으로 번역될 때 생긴다

검증은 신뢰를 제거하기보다 신뢰의 위치를 바꾸고, 그 위치 변경을 제도적으로 관리해야 할 과제로 만든다. 수학에서 이 이동은 형식 언어, 공동체 검토, 증명 보조기, 오류 수정 관행의 결합으로 처리된다. 알고리즘 판정에서 이 이동은 아직 충분히 제도화되지 않은 경우가 많다. 바로 이 격차가 현대 계산 질서의 병리다.

병리는 알고리즘 오류보다 더 깊은 층위에서 생긴다. 더 깊은 병리는 알고리즘이 맞았다고 주장하는 절차가 사회적 판정의 정당성까지 대신한다고 여겨질 때 발생한다. 모델이 검증되었다는 말은 모델이 어떤 기준에서 잘 작동했다는 뜻일 수 있다. 그 말은 그 모델이 사람에게 불이익을 배분할 권한을 얻었다는 뜻과 구분된다. 타당성은 정당성의 일부 조건일 수 있지만, 정당성은 타당성에 절차, 설명, 이의제기, 책임, 거버넌스가 결합될 때 성립한다.

수학 검증과 알고리즘 판정은 같은 시대의 한 구조를 보여준다. 우리는 점점 더 많은 판단을 직접 이해하지 못한 채 받아들이고, 그 수용을 가능하게 하는 인프라에 의존한다. 이 의존은 현대 지식의 작동 방식이다. 문제는 의존의 존재보다 그 의존이 어떤 제도 조건 아래 배치되는가이다. 검증이 공적 권위를 얻으려면, 검증 결과보다 먼저 검증을 둘러싼 인식 인프라가 검증 가능해야 한다.

이어 읽기

작성 정보

초안 작성: GPT · GPT 5.5 · Extended Thinking
검토·개고: ChatGPT · GPT-5.5 Extended Thinking

참고자료

인포그래픽

작성일: 2026년 5월 31일