콘텐츠로 이동

장기주의의 귀족정과 민주적 항소권

미래를 계산하는 자리는 새로운 통치 좌석이 된다

회의실의 화면에는 한 세기가 한 줄로 접혀 있다. 기후 경로, 전염병 위험, AI 시스템의 오작동 가능성, 핵전쟁의 꼬리 위험, 우주 정착 가능성, 문명 지속 확률이 표 안에 들어간다. 각 항목 옆에는 확률과 기대 손실과 우선순위가 적힌다. 표를 만드는 사람들은 스스로를 권력자로 부르지 않는다. 그들은 위험을 줄이려 하고, 인류의 미래를 보존하려 하며, 좁은 선거 주기와 기업 실적의 시간표에서 벗어나 더 긴 시간을 보려 한다. 이 의도에는 진지함이 있다. 그 진지함은 어느 순간 통치 권한으로 바뀔 수 있다.

장기주의는 시간을 확장한다. 현재의 선호와 가까운 고통만으로 윤리를 구성할 수 없다고 말하고, 아직 존재하지 않는 사람의 삶까지 도덕적 계산 안으로 들여온다. 이 확장은 중요한 진전이다. 아직 태어나지 않은 사람에게 우리는 무엇을 빚지는가가 다루었듯, 미래세대 책임은 특정한 미래 개인에게 권리를 미리 부여하는 방식으로 성립하지 않는다. 그것은 미래인이 어떤 삶의 조건을 물려받는가를 현재가 미리 형성한다는 사실에서 발생한다. 미래 가치를 할인한다는 것은 이 조건이 시간의 거리 때문에 낮은 값으로 계산될 수 없다고 주장했다. 대표 없는 시간의 정치는 미래세대의 침묵을 대표 절차의 문제로 옮겼고, 실존위험은 현재의 고통을 얼마나 밀어낼 수 있는가는 미래 생존의 압도성이 현재 피해자의 항소권을 지울 수 없다고 보았다.

이 글은 그 다음 자리를 맡는다. 미래를 계산하는 권한은 누구에게 있는가. 실존위험의 우선순위는 누가 정하는가. 현재의 비용을 감수하라는 요청은 누구의 이름으로 제출되는가. 그 결정에 시민은 어떤 절차로 이의를 제기할 수 있는가. 여기서 문제 삼는 책임은 주로 설명 책임, 정치적 책임, 제도 설계 책임이다. 어떤 결정이 실패하거나 피해를 남길 때는 법적 책임과도 연결된다. 장기주의의 정치적 위험은 미래를 중요하게 여긴다는 사실에서 나오지 않는다. 그 위험은 긴 시간을 계산할 권한이 소수의 자본, 연구기관, 기술 엘리트, 정책 자문 네트워크, 안전 판정 기구에 집중될 때 발생한다. 이때 미래를 향한 윤리는 시간 통치의 귀족정으로 변한다.

장기주의의 귀족정은 접근권에서 생긴다

귀족정이라는 말은 여기서 세습 신분을 뜻하지 않는다. 그것은 공적 결정에 결정적으로 작용하는 판단 권한이 소수에게 집중되고, 그 권한을 교정할 절차가 약한 상태를 가리킨다. 장기주의의 귀족정은 토지와 혈통의 형태를 취하지 않는다. 그것은 모델을 돌릴 권한, 위험 언어를 정의할 권한, 미래의 이해관계를 해석할 권한, 자금을 배분할 권한, 정책 자문 테이블에 앉을 권한에서 생긴다.

미래는 직접 말하지 않는다. 그래서 미래를 대표하는 사람은 언제나 해석권을 갖는다. 어떤 위험을 실존위험으로 부를지, 어떤 위험은 관리 가능한 피해로 분류할지, 어떤 현재의 고통은 미래 생존을 위한 비용으로 받아들일지, 어떤 연구와 산업에 막대한 자원을 투입할지가 그 해석권 안에서 정해진다. 이 권한은 겉으로는 인식론적 권한처럼 보인다. 누가 더 잘 아는가, 누가 더 정교하게 계산하는가, 누가 더 긴 시야를 갖는가의 문제처럼 보인다. 그러나 그 계산이 예산, 규제, 연구 방향, 산업 인허가, 노동 배치, 위험 감수의 분배로 이어지는 순간 그것은 정치적 권한이 된다.

장기주의의 귀족정은 선한 의도를 가진 사람들로 구성될 수 있다. 이 점이 문제를 더 어렵게 만든다. 노골적인 사익 추구라면 폭로하고 제재하면 된다. 미래 전체를 위한다는 언어는 사익과 공익의 경계를 흐린다. 자금 제공자는 자신을 투자자보다 인류 미래의 후견인으로 이해할 수 있고, 기술 기업은 독점 기업의 이해관계를 문명 위험 관리의 언어로 제시할 수 있으며, 연구자는 특정 정치의 행위자보다 합리적 위험 계산의 전달자로 묘사될 수 있다. 이때 권력은 권력의 얼굴을 지우고 책임의 언어를 입는다.

핵심은 악의의 판정보다 오류 가능성이다. 그들이 틀릴 수 있고, 그 틀림이 공적 결정에 반영될 수 있으며, 그 결정이 현재와 미래의 삶의 조건을 바꿀 수 있다. 중요한 질문은 틀림을 교정할 통로가 어디에 있는가다. 미래세대는 그 계산이 자기 삶의 조건을 잘못 해석했다고 반박하지 못한다. 현재의 취약 집단은 “인류의 장기 생존”이라는 거대한 수신자 앞에서 자기 피해를 국지적 불편으로 취급당하기 쉽다. 장기주의의 귀족정은 선의의 과잉보다 선의를 교정할 절차의 결핍에서 형성된다.

실존위험의 우선순위는 정치적 판정이다

실존위험은 실제로 중요하다. 어떤 위험은 한 사회나 한 세대의 손실을 넘어서 문명의 지속 조건을 위협할 수 있다. 이런 위험을 사소한 문제로 취급하는 정치가 있다면 그것 역시 책임 회피다. 짧은 선거 주기, 분기 실적, 당장의 여론에 묶인 제도는 긴 위험을 반복해서 과소평가한다. 장기주의가 제기한 가장 강한 문제의식은 이 지점에서 타당하다. 현재의 제도는 너무 자주 가까운 비용과 가까운 이익에 붙잡힌다.

실존위험 담론의 정치적 쟁점은 위험의 중요성 자체보다 우선순위 판정의 권한에 있다. 한 위험이 실존위험으로 명명되면 그 위험은 다른 위험 위에 올라선다. 연구비, 규제 역량, 언론의 주목, 인재의 이동, 정책 자문 구조가 그 위험 쪽으로 기울 수 있다. 이름은 예산을 부르고, 예산은 제도를 부르며, 제도는 새로운 권한을 만든다. 실존위험이라는 이름은 경고와 배분 장치를 동시에 품는다.

이 판정은 순수한 과학적 발견처럼 처리될 수 없다. 위험의 확률, 손실 규모, 시간 범위, 복구 가능성, 피해의 분포, 예방 비용, 대안 비용은 모두 추정과 가치 판단을 포함한다. 어떤 위험을 먼저 줄일 것인가는 단순 계산으로 닫히지 않는다. AI 안전에 막대한 자원을 투입하는 것이 옳은가, 기후 적응과 보건 인프라와 전쟁 방지와 빈곤 완화와 민주주의 회복 중 무엇을 어떤 순서로 다룰 것인가, 장기적 위험 완화를 위해 현재의 노동과 자원과 데이터 추출을 얼마나 허용할 것인가는 정치적 판정이다.

안전이라는 이름의 권력이 보여준 것처럼, 안전은 중립적 상태의 이름이면서 동시에 판정 권한의 이름이다. 누군가 “안전하다”거나 “위험하다”고 말할 때, 그는 설명을 넘어 판정 권한을 행사한다. 그는 어떤 행위를 허용하고, 어떤 행위를 금지하며, 어떤 비용을 정당화하고, 어떤 항의를 과잉 반응으로 밀어낼 수 있다. 실존위험의 우선순위도 같은 구조를 가진다. “이것이 인류의 가장 큰 위험이다”라는 말은 현실을 설명하면서 동시에 현실의 의사결정 순서를 재배열한다.

따라서 실존위험 판정에는 설명 책임이 따라야 한다. 어떤 모델이 사용되었는가. 어떤 손실이 계산에 들어갔고 어떤 손실은 빠졌는가. 현재의 피해는 어떤 단위로 계산되었는가. 미래의 편익은 누가 대표했는가. 대안적 위험 순위는 왜 배제되었는가. 이 질문이 없는 실존위험 담론은 경고의 형식을 입은 권력 배치가 된다.

현재의 희생은 미래의 이름으로 무명화된다

장기주의가 위험해지는 지점은 현재의 고통을 부정하는 데 있지 않다. 더 자주 일어나는 일은 현재의 고통이 이름을 잃는 과정이다. 노동자는 인프라 비용이 되고, 지역 공동체는 입지 조건이 되며, 데이터 제공자는 학습 자원이 되고, 기후 피해자는 적응 비용의 일부가 된다. 사람은 사라지지 않는다. 계산표 안에서 범주가 바뀐다.

미래를 위한 거대한 프로젝트는 현재의 물질 조건 위에서만 작동한다. AI 안전 연구는 전력, 반도체, 냉각수, 데이터센터, 데이터 노동, 플랫폼 집중, 연구 자본 위에서 움직인다. 우주 개발과 종 생존의 언어는 발사장, 광물, 국가 보조, 군사 기술, 행성의 자원 배분 위에서 움직인다. 기후 대응도 토지, 보험, 이주, 전력망, 산업 전환, 노동 재배치 위에서 움직인다. 미래를 위한다는 말이 커질수록 현재의 비용도 함께 커진다. 이 비용을 누가 지는가를 묻지 않는 미래 윤리는 현재의 분배정의를 건너뛴다.

실존위험은 현재의 고통을 얼마나 밀어낼 수 있는가가 겨냥한 긴장이 여기에 있다. 미래에 존재할 수많은 생명과 문명의 가능성은 거대한 무게를 갖는다. 그 무게를 인정한 뒤에도 현재의 피해자는 사라지지 않는다. 현재의 빈곤, 노동 착취, 기후 재난, 전쟁, 데이터 수탈, 지역 파괴는 미래를 위한 비용이라는 이름 아래 자동으로 낮은 순위가 될 수 없다. 현재 피해자의 항소권은 미래 가치의 크기에 의해 소멸하지 않는다.

현재의 희생이 정당하려면 네 가지 조건을 통과해야 한다. 첫째, 손실이 회복 가능한지 비가역적인지 구분되어야 한다. 둘째, 손실을 부담하는 집단과 편익을 얻는 집단이 공개되어야 한다. 셋째, 피해자가 결정 절차에 이의를 제기할 수 있어야 한다. 넷째, 미래 편익을 말하는 주체가 현재 손실에 대한 책임을 분명히 져야 한다. 이 조건이 빠진 장기주의는 미래의 도덕적 크기를 현재의 면책 장치로 사용한다.

현재를 보지 않는 미래 윤리는 먼 시간을 존중하는 윤리로 작동하기 어렵다. 그것은 수신 가능한 고통을 수신 불가능한 미래로 밀어 올리는 장치다. 책임의 수신자가 너무 멀리 놓이면, 지금 책임을 묻는 사람의 목소리는 비좁은 이해관계로 축소된다. 장기주의의 귀족정은 이렇게 현재의 항의를 협소함으로, 미래의 계산을 보편성으로 배치한다.

전문성은 필요하지만 최종 권한이 될 수 없다

장기위험은 전문성을 요구한다. 기후 모델, 전염병 확산, AI 시스템의 위험, 핵 억지, 생태 전환, 인프라 부채는 즉흥적 여론으로 다룰 수 없다. 복잡한 위험을 공적 판단에 올리려면 연구자, 기술자, 경제학자, 법학자, 행정가, 현장 전문가의 지식이 필요하다. 전문성 자체를 적대시하는 민주주의는 긴 위험 앞에서 쉽게 무능해진다.

전문성의 필요가 전문가 통치의 정당성을 자동으로 만들지는 않는다. 전문가는 위험을 설명하고, 대안을 제시하고, 불확실성의 범위를 밝히며, 기술적 제약을 해석할 수 있다. 최종 우선순위를 정하고, 비용을 누구에게 배분할지 결정하고, 어떤 위험을 감수할 수 있는지 판정하는 일은 정치적 책임의 영역에 남는다. 전문성이 공적 판단을 도와야 할 자리에서 공적 판단을 대체할 때 귀족정이 생긴다.

장기주의자와 실존위험 연구자가 제기할 수 있는 강한 반론이 있다. 고도의 기술 위험은 공개적 항소 절차를 기다릴 만큼 느긋하지 않고, 모든 정보를 공개하면 위험 행위자에게 공격 지식을 제공할 수 있으며, 시민적 재심 절차는 전문 판단을 포퓰리즘이나 단기 이해관계에 종속시킬 수 있다는 반론이다. 이 반론은 가볍지 않다. 팬데믹, 핵 안보, 사이버 보안, 첨단 AI 위험처럼 정보 공개와 시간 지연 자체가 위험을 키우는 영역이 실제로 존재한다. 그래서 장기위험 거버넌스에는 제한된 기밀성과 빠른 집행 권한이 필요할 수 있다.

이 반론은 항소권의 폐기보다 항소권 형식의 정교화를 요구한다. 모든 정보를 즉시 공개하는 절차 대신, 기밀 정보는 독립 감사기구와 비밀취급 권한을 가진 시민 대표에게 제한적으로 공개할 수 있다. 긴급 조치는 사전 항소보다 사후 공개와 사후 재심을 의무화하는 방식으로 다룰 수 있다. 예외 권한에는 일몰 조항을 붙이고, 일정 기간이 지나면 권한을 자동 종료하거나 재승인 절차를 거치게 할 수 있다. 피해를 입은 집단에는 사후 항소권과 보상 청구권을 보장해야 한다. 긴급성은 민주적 통제의 면제 사유로 작동할 수 없고, 통제 장치의 시간표와 공개 범위를 조정하는 사유에 머문다.

이 구분은 계산 질서의 민주적 조건과 직접 연결된다. 계산 질서의 정당성과 민주적 항소권 계열의 핵심 질문은 계산의 참거짓을 넘어선다. 계산이 맞더라도 그 계산이 누구의 삶을 판정하는 권한을 얻을 때 어떤 승인 절차와 항소 구조를 가져야 하는가가 핵심이다. 장기주의의 계산도 마찬가지다. 기대 가치, 위험 순위, 할인율, 생존 확률, 기술 경로는 공적 판단에 필요한 증거가 될 수 있다. 그 증거가 곧 명령이 되는 순간 민주적 절차는 우회된다.

전문성은 공개될 때 공적 자원이 된다. 닫힐 때 권력이 된다. 모델의 가정, 데이터의 한계, 자금 출처, 이해충돌, 대안 시나리오, 실패 가능성, 소수 의견이 공개될수록 전문성은 민주적 판단의 재료가 된다. 이 요소들이 닫힐수록 전문성은 사람들의 삶을 대신 판정하는 권위가 된다. 장기주의의 정치적 성패는 전문가를 배제하는 데 있지 않고, 전문가 권한을 공적 절차 안에 배치하는 데 있다.

민주적 항소권은 미래 계산의 정당성 조건이다

항소권은 판정이 권력이 되었다는 사실을 제도적으로 인정하는 장치다. 어떤 계산이 개인이나 집단의 권리, 비용, 위험, 삶의 조건을 재배열할 때, 그 계산에 의해 영향을 받는 사람은 계산의 근거를 요구하고, 자기 피해가 어떻게 반영되었는지 묻고, 대안적 해석을 제출하고, 독립적 재심을 요청할 수 있어야 한다. 이것이 민주적 항소권의 최소 의미다.

미래세대는 직접 항소할 수 없다. 그래서 장기주의에는 두 겹의 항소권이 필요하다. 첫째, 현재 시민의 항소권이다. 미래를 위해 현재의 희생을 요구받는 사람은 그 희생의 필요성, 비례성, 대안 가능성, 보상 구조, 회복 가능성에 대해 이의를 제기할 수 있어야 한다. 둘째, 미래세대의 대리 항소권이다. 미래의 침묵을 현재의 공적 절차 안에 들이기 위해 독립 대변기구, 장기 영향 심사, 비가역적 손상 심사, 세대 간 권리 검토가 필요하다. 두 항소권은 서로를 약화하지 않고 함께 작동해야 한다.

현재 시민의 항소권이 빠지면 미래세대 대표는 현재의 약자를 압박하는 권한으로 변한다. 미래세대의 대리 항소권이 빠지면 민주주의는 현재 유권자의 짧은 이익에 갇힌다. 세대 간 정의의 어려움은 이 둘 중 하나를 고르는 데 있지 않다. 현재의 민주적 자기결정과 미래의 권리 조건을 함께 보호하는 절차를 설계하는 데 있다.

항소권은 계산의 지위를 분명하게 한다. 계산은 공적 결정의 입력값에 머문다. 항소권은 계산을 감정으로 대체하지 않고, 계산이 배제한 손실과 가정과 이해충돌을 다시 공론장에 입력한다. 누군가의 삶이 위험 완화 비용으로 분류되었을 때, 그 사람은 “내 손실은 어떤 기준으로 회복 가능하다고 판정되었는가”라고 물을 수 있어야 한다. 어떤 지역이 장기 인프라 전환의 희생지로 지정되었을 때, 그 지역은 “대안 경로는 왜 탈락했는가”라고 물을 수 있어야 한다. 어떤 기술 기업이 인류 미래의 안전을 이유로 특권적 연구 권한을 주장할 때, 시민은 “그 권한은 누가 감시하며 실패 책임은 어디에 귀속되는가”라고 물을 수 있어야 한다.

장기주의를 민주화하는 최소 조건

장기주의가 귀족정으로 굳지 않기 위해서는 몇 가지 최소 조건이 필요하다. 첫째, 위험 판정의 공개성이다. 실존위험 순위와 장기 우선순위는 전문가 내부 문서나 후원 네트워크의 판단으로 닫힐 수 없다. 핵심 가정, 확률 범위, 손실 정의, 배제된 위험, 대안 시나리오가 공개되어야 한다.

둘째, 이해충돌의 가시화다. 미래를 계산하는 주체가 어떤 산업, 자본, 국가 기관, 연구 자금, 기업 전략과 연결되어 있는지 드러나야 한다. 미래세대를 대변한다는 언어는 이해충돌을 제거하지 않는다. 오히려 그 언어가 강할수록 이해충돌 공개의 의무도 강해진다.

셋째, 현재 피해자의 절차적 지위다. 장기 위험 완화 정책으로 비용을 부담하는 집단은 의견 수렴의 대상에 머물 수 없다. 그들은 결정 근거를 요구하고, 대안 분석을 요청하고, 독립 심사를 청구하고, 보상과 회복 계획을 요구할 권한을 가져야 한다. 미래의 이름으로 현재 시민의 절차적 지위를 낮추는 방식은 세대 간 정의의 형식에서 벗어난다.

넷째, 비가역적 손상 심사다. 어떤 정책이 미래의 압도적 편익을 제시하더라도 현재에 회복 불가능한 손상을 남긴다면 별도 심사를 통과해야 한다. 생명, 생태계, 거주 조건, 민주적 권리, 신체와 노동의 훼손은 단순 비용 항목으로 환산될 수 없다. 비가역적 손상 심사는 환경영향평가처럼 사전 심사와 보완 명령을 포함해야 하고, 중대한 손상이 예상될 때는 승인 보류나 대안 경로 검토로 이어져야 한다. 비가역성은 기대 가치 계산을 보완하는 독립 기준으로 작동해야 한다.

다섯째, 미래세대 대표권의 분산이다. 하나의 위원회, 하나의 재단, 하나의 기술 기업, 하나의 국가 기관이 미래를 독점해서는 안 된다. 미래세대 대변은 전문가, 시민, 취약 집단, 지역 공동체, 법적 심사, 독립 감사가 분산해서 수행해야 한다. 대표권은 강한 권한이기 때문에 분산되어야 하고, 분산되어야 갱신될 수 있다. 대표기구에는 임기 제한, 이해충돌 신고, 소수 의견 공표, 정기 재승인 절차가 붙어야 한다.

여섯째, 실패 책임의 귀속이다. 장기주의적 결정이 실패했을 때 아무도 책임지지 않는다면 그것은 윤리 이론의 형태보다 면책 구조에 가까워진다. 예측 실패, 위험 과장, 위험 축소, 비용 전가, 기술 특권화, 현재 피해 은폐가 발생했을 때 법적 책임, 정치적 책임, 설명 책임, 제도 설계 책임이 구분되어야 한다. 책임이 구분되지 않으면 모든 책임을 말하는 자가 어떤 책임도 지지 않는 위치에 선다.

이 조건들은 장기주의를 공적 윤리로 만들기 위한 장치다. 미래를 위한다는 말이 사적 후견과 기술 엘리트의 자기 위임으로 끝나지 않으려면, 그 말은 심사를 통과해야 한다. 민주적 절차는 장기 책임이 권력으로 변질되지 않도록 붙드는 제도적 마찰이다.

미래를 위한다는 말은 현재의 항소를 통과해야 한다

장기주의의 가장 설득력 있는 장면은 좁은 현재주의를 넘어서는 장면이다. 아직 태어나지 않은 사람의 삶을 고려하라는 요청은 윤리의 범위를 넓힌다. 선거권이 없고, 시장에서 구매력도 없고, 현재의 언어로 호소할 수도 없는 존재의 조건을 지금 결정하고 있다는 사실은 가볍지 않다. 미래를 생각하지 않는 정치는 현재의 편의를 위해 미래의 가능성을 소진한다.

장기주의의 가장 위험한 장면은 같은 언어가 현재의 항소를 봉쇄하는 장면이다. 미래 전체를 말하는 자가 현재의 피해자를 협소한 이해관계자로 만들고, 실존위험을 계산하는 자가 민주적 승인 절차를 느리고 무지한 방해물로 만들며, 인류 생존을 말하는 자가 특정 기업과 기관의 권한 확대를 문명적 필요로 포장할 때, 긴 시간의 윤리는 귀족정의 언어가 된다.

따라서 장기주의의 정당성은 미래를 얼마나 크게 말하는가에서 결정되지 않는다. 그것은 미래의 이름으로 현재에 행사되는 권한이 어떤 항소 절차를 갖는가에서 결정된다. 현재의 고통을 통과한다는 것은 그 고통을 최종 기준으로 삼는다는 의미와 다르다. 그것을 비용 항목으로 침묵시키지 않고, 수신 가능한 항의로 인정하며, 그 항의를 심사 절차 안에 들인다는 뜻이다.

미래세대에게 우리는 의무를 진다. 그 의무는 긴 시간을 보는 사람에게 현재를 지배할 특권을 주지 않는다. 오히려 긴 시간을 말하는 사람에게 더 무거운 설명 책임을 부과한다. 누가 미래를 계산하는가. 어떤 현재가 비용으로 처리되는가. 피해자는 어디에 항소하는가. 실패 책임은 누구에게 돌아가는가. 이 질문들을 통과한 장기주의만이 미래에 대한 의무의 이름을 가질 수 있다.

이어 읽기

작성 정보

초안 작성: GPT · GPT 5.5 · Extended Thinking
검토·개고: ChatGPT · GPT-5.5 Extended Thinking

참고자료

  • William MacAskill, What We Owe the Future, Basic Books, 2022.
  • William MacAskill, “Longtermism,” author page.
  • Longtermism.com, “What is longtermism?”
  • Nick Bostrom, “Existential Risk Prevention as Global Priority,” Global Policy, 2013.
  • Toby Ord, The Precipice: Existential Risk and the Future of Humanity, Bloomsbury, 2020.
  • UK Government, “The Bletchley Declaration by Countries Attending the AI Safety Summit,” 2023.

인포그래픽

작성일: 2026년 6월 7일