실존위험은 현재의 고통을 얼마나 밀어낼 수 있는가¶

1. 압도적인 미래가 현재의 얼굴을 작게 만들 때¶

한 회의실에서 두 문서가 나란히 놓인다. 하나는 올해 폭염으로 쓰러질 노동자와 노인, 냉방비를 감당하지 못하는 가구, 홍수 뒤 보험에서 밀려난 주거지를 다룬다. 다른 하나는 인류 문명이 영구히 중단될 가능성, 통제 불가능한 인공지능, 핵전쟁, 생물학적 재난, 기후 체계의 장기 붕괴를 다룬다. 첫 문서에는 이름과 주소와 예산 항목이 있다. 둘째 문서에는 낮은 확률과 거대한 손실, 그리고 계산이 미처 담기 어려운 미래의 수가 있다. 회의는 곧 난감한 질문 앞에 선다. 유한한 자원과 정치적 주의를 어디에 먼저 써야 하는가.

장기주의의 힘은 바로 이 장면에서 나온다. 현재의 고통은 눈앞에 있기 때문에 강하게 대표되고, 미래의 손실은 아직 도착하지 않았기 때문에 약하게 대표된다. 이 불균형을 바로잡기 위해 장기주의는 시야를 멀리 보낸다. 인류가 지속된다면 앞으로 존재할 수 있는 삶은 현재의 삶보다 훨씬 많다. 문명이 영구히 끊기거나 회복 불가능한 경로로 고정된다면, 그 손실은 지금의 정책 실패보다 훨씬 깊고 길다. 그러므로 실존위험을 줄이는 일은 책임의 중심 의제가 된다.

이 논리는 가볍게 처리할 수 없다. 아직 태어나지 않은 사람에게 우리는 무엇을 빚지는가가 말했듯, 미래세대는 현재 존재하지 않아도 현재의 결정에 의해 삶의 조건을 미리 배정받는다. 미래 가치를 할인한다는 것이 지적했듯, 시간의 거리가 가치의 등급으로 변하면 미래의 고통은 숫자 안에서 사라진다. 대표 없는 시간의 정치가 보여 주었듯, 미래세대는 현재 결정에 투표하거나 항소할 수 없으므로 별도의 대표 절차가 필요하다. 실존위험 논의는 이 세 논점을 가장 강한 형태로 모은다. 미래의 삶은 도덕적으로 가볍지 않고, 비가역적 손실은 특별한 주의를 요구하며, 미래의 침묵은 현재의 절차 안에서 보정되어야 한다.

이 글이 겨냥하는 대상은 미래세대 책임 일반이나 장기주의 전체가 아니다. 문제는 실존위험 우선순위가 현재 피해자의 증언과 항소를 봉쇄하는 경우다. 미래의 손실이 압도적이라는 사실이 현재의 고통을 낮은 순위로 밀어내는 면허가 되는 순간, 장기주의는 미래세대를 보호하는 윤리에서 현재 시민의 항소를 약화시키는 시간 통치로 변한다. 이 글의 핵심 논제는 다음과 같다. 실존위험은 현재의 고통을 지우는 상위 명분으로 쓰일 때 위험해지며, 현재의 고통과 미래의 비가역적 손실을 함께 판정하도록 만드는 가장 어려운 우선순위 시험으로 다루어져야 한다.

2. 강한 반론은 미래의 수에서 나온다¶

실존위험을 중시하는 주장의 가장 강한 형태는 단순하다. 어떤 재난이 인류 전체의 존속 가능성을 없애거나 문명의 회복 능력을 영구히 파괴한다면, 그 재난을 막는 일은 거의 모든 다른 과제보다 큰 도덕적 무게를 갖는다. 확률이 낮아도 손실의 규모가 충분히 크면 기대 손실은 커진다. 지금 한 세대의 고통을 줄이는 일은 중대하지만, 모든 세대의 가능성을 닫는 일을 막는 일은 더 중대할 수 있다.

이 반론은 장기주의를 진지한 윤리 이론으로 만든다. 가까운 사람의 고통에 더 민감하게 반응하는 인간 심리는 도덕 판단의 안정적 기준이 되기 어렵다. 거리가 먼 타인의 고통을 작게 느끼는 편향을 비판할 수 있다면, 시간적으로 먼 사람의 고통을 작게 느끼는 편향도 비판할 수 있다. 오늘 굶주리는 사람을 외면하면 문제가 되듯, 200년 뒤 존재할 사람의 삶의 조건을 파괴하는 결정도 문제가 된다. 보이지 않는다는 이유로 책임이 사라지는 것은 아니다.

실존위험 논의는 또 하나의 중요한 구분을 제공한다. 많은 피해는 회복 가능하다. 제도는 실패한 뒤 고칠 수 있고, 잘못된 예산은 다음 회계연도에 다시 배정할 수 있으며, 일부 손실은 보상으로 완화할 수 있다. 반면 종의 소멸, 문명 회복 능력의 붕괴, 생태·기술 조건의 영구적 봉쇄는 같은 방식으로 되돌리기 어렵다. 비가역성은 우선순위의 저울을 바꾸는 정당한 이유다. 이 점에서 실존위험은 일반적인 위험 관리와 다른 도덕적 지위를 갖는다.

따라서 이 글의 비판은 실존위험의 중요성을 인정하는 자리에서 출발한다. 그 중요성을 인정해야 비판의 초점이 선명해진다. 실존위험이 중요하기 때문에, 그 이름으로 어떤 현재의 고통이 낮은 값으로 계산되는지 더 엄격하게 물어야 한다. 미래의 수가 거대할수록, 그 수를 말하는 권한은 더 강한 설명 책임과 더 열린 항소 절차를 가져야 한다.

3. 미래 생존은 어떻게 현재의 고통을 비용으로 바꾸는가¶

실존위험 담론이 위험해지는 첫 번째 길목은 현재의 고통을 전환 비용으로 바꾸는 데 있다. 빈곤, 노동 착취, 주거 불안, 기후 피해, 전쟁, 데이터 수탈은 그 자체로 정치적 요구를 낳는다. 그런데 미래 생존의 언어가 우선권을 독점하면, 이 요구들은 거대한 프로젝트를 수행하는 데 발생하는 마찰, 지연, 부작용, 조정 비용으로 재분류된다. 피해자는 권리 주체에서 비용 항목으로 이동한다.

이 이동은 기술 권력과 결합할 때 더 강한 유인을 갖는다. 실리콘밸리 사상적 조류의 명암이 분석한 것처럼, 효율적 이타주의와 장기론은 선의의 규모를 넓히는 동시에 누가 선을 계산할 권한을 갖는지를 새롭게 배치한다. 미래에 존재할 수많은 생명을 구한다는 명분은 거대한 자본, 폐쇄적인 연구 조직, 사적 재단, 소수 전문가 집단의 판단을 도덕적 우선권의 언어로 감싸기 쉽다. 여기서 중요한 것은 특정 집단의 선의를 단정하는 일이 아니라, 미래 계산의 권한이 어떤 제도적 견제 속에 놓이는가를 묻는 일이다. 견제가 약할수록 현재의 노동자, 지역 주민, 데이터 제공자, 저임금 정제 노동자는 미래를 위한 인프라를 떠받치는 현재의 몸으로 남는다.

두 번째 길목은 증언의 위계다. 현재의 피해자는 자신의 고통을 말할 수 있다. 폭염으로 쓰러진 노동자, 보험에서 밀려난 주민, 자동화된 판정으로 생계를 잃은 사람은 피해의 장면을 증언한다. 미래의 손실은 주로 모델과 시나리오와 기대값으로 제시된다. 이 둘이 충돌할 때 정책 테이블은 모델의 언어를 더 높은 지식으로 배열하기 쉽다. 증언은 주관적 경험으로, 모델은 객관적 위험으로 배치된다. 이 배열이 굳어지면 현재의 고통은 소음이 되고, 미래의 계산은 이성이 된다.

세 번째 길목은 도덕적 협박이다. 실존위험을 앞세운 논의는 반대자를 쉽게 무책임한 사람으로 만든다. 어떤 사람이 현재의 빈곤, 기후 적응, 노동권, 전쟁 피해, 데이터 착취를 먼저 다루자고 말하면, 그는 먼 미래의 생명을 가볍게 여기는 사람처럼 묘사될 수 있다. 실존위험의 언어가 윤리적 상위 명분이 되면, 현재의 항소는 이기적 단기주의로 축소된다. 대표 없는 시간의 정치에서 미래세대 대표권의 위험으로 지적한 구조가 여기서 다시 나타난다. 미래를 대변한다는 권한이 현재의 말할 수 있는 사람들을 침묵시킨다.

네 번째 길목은 안전 판정의 사유화다. AI 안전, 생물안보, 핵위험, 기후 공학 같은 분야는 고도의 전문 지식을 요구한다. 전문성 자체는 필요하다. 위험은 직관만으로 다루기 어렵다. 전문성이 판정 권한을 사적 공간으로 끌고 들어가는 순간, 실존위험은 민주적 심의보다 기업 내부의 평가, 연구소의 비공개 판단, 재단의 지원 우선순위 안에서 결정될 수 있다. 안전이라는 이름의 권력이 말한 안전 판정의 압축이 여기서 반복된다. 판단 책임, 설명 책임, 법적 책임, 정치적 책임, 제도 설계 책임이 하나의 기술적 평가 안에 접힌다.

다섯 번째 길목은 희생의 비대칭성이다. 미래 생존을 위해 지금 무엇을 감수해야 한다고 말하는 사람과 그 감수의 비용을 실제로 지는 사람이 다를 때, 장기주의는 귀족정의 형식을 띤다. 어떤 사람은 미래의 이름으로 계산하고, 다른 사람은 전기요금과 주거비와 노동 강도와 감시 인프라와 불안정한 안전망을 견딘다. 시간적으로 넓어진 윤리가 사회적으로 좁은 계층의 판단에 포획되는 순간, 실존위험 담론은 미래세대의 권리를 말하면서 현재 세대 내부의 불평등을 강화한다.

4. 현재의 고통은 미래 책임의 경쟁자를 넘어 미래 조건의 일부다¶

현재 고통과 미래 위험을 단순한 경쟁 관계로 두면 판단은 계속 비틀린다. 한쪽에는 지금 아픈 사람이 있고, 다른 쪽에는 미래의 막대한 수가 있다. 이 구도에서는 현재의 요구가 항상 작아 보이거나, 미래의 위험이 항상 추상적으로 보인다. 더 안정적인 출발점은 현재의 고통을 미래 조건의 일부로 보는 것이다. 현재의 빈곤과 노동 착취와 기후 피해와 전쟁은 지금의 사람을 해치고 미래의 세계까지 형성한다. 그것들은 미래가 상속받을 제도, 신뢰, 인프라, 정치적 역량, 생태 조건을 함께 손상시킨다.

예컨대 기후 적응의 실패는 현재의 생존 문제이면서 미래의 조건 형성 문제다. 기후 적응의 분배 정의가 보여 주듯, 보호가 구매력에 따라 배분되면 파국은 이미 분류된 채 도착한다. 냉방, 보험, 이주, 복구 인프라가 시장화될수록 어떤 집단은 손상에 묶이고 어떤 집단은 위험에서 빠져나간다. 이 불평등은 다음 세대로 이어진다. 다음 세대는 더 약한 주거 기반, 더 좁은 선택지, 더 깊은 지역 격차를 상속받는다. 현재의 보호 실패는 미래의 자유를 미리 줄인다.

데이터 착취도 같은 구조를 갖는다. AI 시스템이 장기적 안전과 생산성 향상을 명분으로 개발될 때, 그 현재 조건에는 데이터 제공자의 권리, 저임금 정제 노동, 에너지와 냉각수, 지역 인프라, 감시 가능성이 포함된다. 이 조건들이 민주적 통제 없이 축적되면, 미래는 더 안전한 기술을 얻는 대신 더 약한 시민권과 더 강한 사적 인프라 권력을 상속받을 수 있다. 미래 생존의 기술이 현재의 권리 침식을 통해 만들어진다면, 그 생존은 이미 특정한 통치 형식을 내장한다.

전쟁과 빈곤도 미래와 이어진다. 전쟁은 생명을 빼앗고 도시를 파괴하며 제도 신뢰, 교육, 돌봄, 기억, 정치적 상상력을 함께 찢는다. 극단적 빈곤은 현재의 고통이며 능력 형성의 기회를 축소하고, 다음 세대가 사용할 사회적 기반을 약화시킨다. 현재 고통을 줄이는 일은 단기주의로 축소될 수 없고 미래 가능성의 토대를 보전하는 일이다.

따라서 우선순위의 질문은 “현재냐 미래냐”로 세워지기 어렵다. 더 좋은 질문은 “어떤 현재의 개입이 미래의 비가역적 손실을 줄이면서 현재의 항소권도 보존하는가”이다. 현재의 피해자를 침묵시키는 방식으로 미래를 보호하는 계획은 책임의 한 축을 세우며 다른 축을 무너뜨린다. 미래를 진지하게 다루는 윤리는 현재의 고통을 경쟁자로 밀어내기보다, 미래 조건을 구성하는 신호로 읽어야 한다.

5. 실존위험 우선순위에는 최소한의 판정 기준이 필요하다¶

실존위험이 모든 현재 요구를 자동으로 앞설 수 없다면, 감정적 균형감보다 판정 기준이 필요하다. 첫 번째 기준은 비가역성이다. 어떤 결정이 장기적 회복 가능성을 닫거나, 미래세대의 기본 선택지를 영구히 축소하거나, 손실 뒤의 항소 가능성을 없앤다면 그 결정은 강한 심사를 통과해야 한다. 비가역성은 미래를 위한 의무의 핵심 신호다.

두 번째 기준은 권리 침식의 전이 가능성이다. 어떤 실존위험 대응이 현재 시민의 설명 요구, 노동권, 개인정보, 주거권, 생태적 권리를 약화시키면서 정당화된다면, 그 약화가 미래 제도의 기본값으로 남을 수 있는지 따져야 한다. 현재의 예외 상태는 미래의 통치 규범이 될 수 있다. 실존위험을 줄인다는 이름으로 항소권 없는 안전 체제를 만들면, 미래세대는 생존을 얻는 대신 닫힌 질서를 상속받는다.

세 번째 기준은 부담의 분배다. 누가 비용을 지는가, 누가 이익을 얻는가, 누가 판정하는가, 누가 항소할 수 있는가를 분리해 물어야 한다. 현재의 가난한 집단이 미래의 부유한 문명을 위해 비용을 지는 구조, 위험 지역 주민이 국가의 장기 전략을 위해 희생되는 구조, 데이터 노동자가 AI 안전의 기반을 제공하면서 권리를 얻지 못하는 구조는 미래 책임의 이름으로 정당화되기 어렵다. 미래세대 책임은 현재 세대 내부의 분배 정의를 우회할 수 없다.

네 번째 기준은 대체 가능성이다. 현재 보호와 미래 위험 감소가 실제로 충돌하는 경우는 있을 수 있다. 그런 경우에도 충돌 선언이 곧바로 현재 피해자의 침묵을 뜻해서는 안 된다. 같은 실존위험 감소 효과를 더 적은 현재 피해로 달성할 수 있는 경로가 있는지 먼저 확인해야 한다. 많은 충돌은 자원 배분의 자연법칙보다 정치적 설계에서 더 자주 나온다. 기후 완화와 적응, 공공 보건, 사회 안전망, 에너지 전환, 민주적 AI 거버넌스는 현재 보호와 미래 위험 감소를 동시에 수행할 수 있다. 충돌이 선언되기 전에 결합 가능한 경로를 먼저 찾아야 한다.

다섯 번째 기준은 항소 가능성이다. 여기서 항소 가능성은 막연한 불만 표출이 아니라 최소한 세 절차를 뜻한다. 결정 근거를 열람할 수 있어야 하고, 반박 자료를 제출할 수 있어야 하며, 주기적 재심을 요구할 수 있어야 한다. 실존위험 우선순위는 한 번 정해지면 오래 지속되는 경향이 있다. 연구 자금, 규제 프레임, 인프라 투자, 군사·안보 체계, 기술 표준이 그 우선순위에 맞춰 움직인다. 따라서 피해 당사자, 지역 공동체, 노동자, 시민단체, 독립 연구자, 미래세대 대변기구가 결정 근거를 보고 이의를 제기할 통로를 가져야 한다. 실존위험은 항소를 닫는 말이 되기보다 항소 절차를 더 정교하게 요구하는 말로 작동해야 한다.

6. 미래를 구한다는 말은 현재를 통과해야 한다¶

미래세대를 향한 의무는 현재 세대가 자기 생애의 편익만 좇는 태도를 제어하는 중요한 윤리적 장치다. 실존위험 논의는 그 의무를 가장 넓은 스케일로 확장한다. 인류 문명의 지속 가능성, 회복 불가능한 손실, 아직 존재하지 않는 수많은 삶의 조건을 생각하게 만든다. 이 확장은 필요하다. 가까운 고통만 볼 때 윤리는 시간의 폭을 잃는다.

먼 미래만 볼 때 윤리는 책임의 수신자를 잃는다. 현재의 빈곤, 노동, 기후 피해, 전쟁, 데이터 착취는 미래를 위해 잠시 미뤄 둘 수 있는 작은 항목으로 처리하기 어렵다. 그것들은 미래가 상속받을 세계의 재료다. 오늘 닫힌 권리는 내일의 기본값이 되고, 오늘 방치된 불평등은 내일의 조건이 되며, 오늘 항소권 없이 내려진 안전 판정은 내일의 통치 형식이 된다.

그러므로 실존위험 우선순위는 다섯 문턱을 통과해야 한다. 손실이 되돌릴 수 없는가. 현재 권리의 침식이 미래 제도로 전이되는가. 부담과 이익은 누구에게 배분되는가. 더 적은 현재 피해로 같은 미래 보호를 달성할 대체 경로가 있는가. 결정 근거 열람, 반박 제출, 주기적 재심 요구가 가능한가. 이 문턱을 통과할 때 실존위험은 현재의 고통을 밀어낼 수 있다. 그때의 밀어냄은 피해의 삭제가 아니라 공개된 우선순위 판정이다.

이 조건을 통과하지 못한 실존위험 담론은 미래에 대한 책임보다 현재에 대한 면책으로 작동한다. 미래의 수가 클수록 현재의 절차는 더 엄격해야 한다. 먼 미래의 이름으로 현재의 말할 수 있는 사람을 침묵시키는 윤리는 시간의 폭을 넓히는 듯 보이나 실제로는 책임의 자리를 비운다. 미래에 대한 의무는 현재를 넘어서기 전에 현재를 통과해야 한다.

이어 읽기¶

대표 없는 시간의 정치 — 미래세대가 현재의 결정에 항소할 수 없다는 문제를 대표 절차와 신탁 권한의 문제로 정식화한다.
미래 가치를 할인한다는 것 — 먼 미래의 가치가 할인율 안에서 낮은 값으로 환산되는 과정을 다루며, 이 글의 우선순위 판단 문제를 준비한다.
실리콘밸리 사상적 조류의 명암 — 효율적 이타주의와 장기론이 미래 책임을 계산 가능한 권력으로 바꾸는 지점을 비판한다.
기후 적응의 분배 정의 — 현재의 보호 실패가 미래의 조건 축소로 이어지는 사례를 분배 정의의 언어로 보여 준다.
안전이라는 이름의 권력 — 안전 판정이 권한과 항소권의 문제로 바뀌는 구조를 분석하며, 실존위험 담론의 제도적 위험을 연결한다.

작성 정보¶

초안 작성: GPT · GPT 5.5 · Extended Thinking
검토·개고: ChatGPT · GPT-5.5 Extended Thinking

참고자료¶

William MacAskill, What We Owe the Future, 2022 — 장기주의의 대표적 정식화.
Toby Ord, The Precipice, 2020 — 실존위험을 윤리와 정책의 중심 의제로 제시한 논의.
Nick Bostrom, “Existential Risk Prevention as Global Priority”, 2013 — 실존위험 예방의 우선순위를 정식화한 대표 논문.
Derek Parfit, Reasons and Persons, 1984 — 미래세대, 비동일성 문제, 시간적 거리의 도덕적 함의를 다루는 배경.
Peter Singer, “Famine, Affluence, and Morality”, 1972 — 거리와 도덕적 의무의 관계를 묻는 고전적 논의.
Amartya Sen, Development as Freedom, 1999 — 고통과 빈곤을 현재의 결핍이자 미래 역량의 축소로 읽기 위한 배경.
Henry Shue, Basic Rights, 1980 — 기본권, 보호 의무, 부담 분배를 함께 다루기 위한 윤리적 배경.

인포그래픽¶

작성일: 2026년 6월 7일