콘텐츠로 이동

실리콘밸리 사상적 조류의 명암 — 효율적 이타주의와 장기론은 무엇을 가리는가

가까운 곳의 눈에 보이는 고통에 반응하고 그것으로 만족하는 자선이 있다. 기부자의 죄책감을 덜어 주는 데서 멈추고, 그 돈이 실제로 몇 명의 생명을 구했는지는 묻지 않는 자선이다. 효율적 이타주의는 이 지점을 정면으로 겨냥하며 출발했다. 같은 자원으로 더 많은 고통을 덜어 낼 수 있다면, 윤리는 선의의 진정성만으로 평가될 수 없고 결과의 크기를 함께 물어야 한다는 것이다.

이 입장은 하나의 오래된 직관을 끝까지 밀고 간다. 피터 싱어가 제시한 물에 빠진 아이의 비유는, 눈앞의 아이를 구하는 의무와 멀리 있는 아이를 구하는 의무 사이에 도덕적 차이가 크지 않다고 말한다. 거리는 도덕적 무게를 쉽게 줄이지 않는다. 효율적 이타주의는 이 무차별성의 원칙을 측정 가능한 형식으로 옮긴다. 어느 개입이 같은 비용으로 가장 많은 고통을 줄이고 가장 많은 생명을 구하는가를 비교하고, 그 비교에 따라 자원을 배분하려 한다.

장기론은 같은 원칙을 시간 축으로 확장한다. 공간적 거리가 도덕적 무게를 줄이지 않는다면 시간적 거리 또한 쉽게 줄이지 않는다. 아직 태어나지 않은 사람도 도덕적 고려의 대상이며, 인류가 앞으로 수많은 세대를 이어 간다면 미래에 존재할 사람의 수는 현재 인구를 압도한다. 장기론은 이 막대한 수를 윤리 계산 안으로 들여오면서, 지금 우리가 내리는 결정의 스케일 자체를 바꾼다.

두 사유는 윤리의 시야를 넓혔다. 근거리 편향을 폭로하고, 측정되지 않은 채 흩어지던 선의를 결과로 환산하고, 미래 세대를 도덕적 침묵에서 끌어냈다. 이 공헌은 진지하게 인정받아야 한다. 이 글이 다루는 문제는 넓어진 시야가 한쪽으로 기울 때 발생한다. 미래를 비추려고 끌어온 빛이 현재를 어둡게 만들 때, 미래에 대한 책임이 현재에 대한 책임을 대체하기 시작할 때, 윤리적 계산은 누가 비용을 지고 누가 판정하며 누가 항소할 수 있는가를 결정하는 권력으로 전환된다. 미래 세대에 대한 책임은 현재의 제도적 책임을 더 정밀하게 요구하는 언어로 성립해야 한다. 이 글은 그 전환이 일어나는 다섯 개의 길목을 따라간다.

효율의 윤리

효율적 이타주의의 힘은 자선을 감상에서 떼어 낸 데 있다. 어떤 기부가 따뜻한 이야기로 포장되는가보다 어떤 기부가 실제로 더 많은 결과를 낳는가를 묻는다. 이 물음 앞에서 많은 관행적 자선은 자기만족의 의례로 드러난다. 가시성이 높은 재난에 자원이 몰리고, 측정하기 번거로운 만성적 고통은 외면된다. 효율의 윤리는 이 편향을 폭로하고 자원을 가장 큰 효과가 나는 곳으로 돌리라고 요구한다. 말라리아 예방 모기장이 한 생명을 구하는 비용을 다른 사업의 비용과 나란히 놓고 비교할 때, 효율의 윤리는 분명한 도덕적 진전을 만든다.

이 진전은 하나의 환산을 전제로 한다. 서로 다른 종류의 선을 비교하려면 그것들을 같은 단위로 바꾸어야 한다. 건강수명 지표, 곧 QALY나 DALY 계열의 척도, 비용 대비 구제된 생명의 수, 기대 효용 같은 단위가 그 자리를 차지한다. 환산은 비교를 가능하게 하지만, 동시에 환산되지 않는 것을 계산에서 밀어낸다. 한 사람이 자신의 노동 조건을 스스로 결정할 권리, 부당한 판정에 맞서 목소리를 낼 수 있는 지위, 특정한 관계 속에서만 성립하는 책임은 건강수명 지표로 곧장 환산되지 않는다. 환산되지 않는 것은 계산표에서 낮은 가중치를 얻거나 아예 항목으로 등장하지 못한다.

여기서 효율이 중립적 도구라는 인상이 흔들린다. 무엇을 단위로 삼을 것인가의 선택은 그 자체로 가치 판단이다. 측정 가능한 것을 우선하는 윤리는 측정하기 어려운 고통, 존엄, 정치적 권리, 관계적 책임을 부차화할 수 있다. 이 효과는 단순한 계산 오류에서만 비롯되지 않는다. 계산이라는 형식 자체가 어떤 세계를 잘 보이게 하고, 어떤 세계를 흐리게 만드는 데서 생긴다. 효율의 윤리가 강력할수록 계산표 바깥으로 밀려난 것들은 더 조용히 사라진다.

장기론의 시간 정치

장기론이 윤리 계산에 들여오는 미래 인구의 수는 상상을 넘어선다. 인류가 앞으로 수십만 년을 이어 가고 그동안 태어날 사람을 모두 합한다면, 그 수는 현재 살아 있는 수십억 명을 천문학적 규모로 압도한다. 이 수를 진지하게 받아들이면 먼 미래의 작은 확률 개선조차 현재의 확실한 고통보다 더 큰 기대 가치를 가질 수 있다. 장기론의 시간 정치는 이 산술에서 나온다. 미래 세대의 막대한 수가 현재의 의사결정에 얹히는 무게가 되고, 그 무게는 거의 언제나 미래 쪽으로 기운다.

핵심 질문은 미래 세대를 대표하는 권한의 조건이다. 살아 있는 시민은 자신을 대표한다고 주장하는 자에게 이의를 제기하고, 투표로 그를 교체하고, 자신의 이해가 왜곡되었다고 항의할 수 있다. 아직 태어나지 않은 사람에게는 이 견제 장치가 없다. 미래 세대의 이름으로 말하는 자는 그 미래로부터 직접 반박을 받지 않는다. 대표되는 쪽이 침묵할 수밖에 없을 때, 대표하는 쪽의 권한은 쉽게 비대해진다.

여기서 책임의 한 종류가 모습을 드러낸다. 대표 책임, 곧 스스로 목소리를 낼 수 없는 존재를 대신해 말하는 자가 지는 책임이다. 이 책임은 검증 절차를 요구한다. 누가 어떤 자격으로 미래를 대변하는가, 그 대변의 내용은 어떤 기준으로 평가되는가, 대변이 실패했을 때 누가 그 실패를 지적하는가. 장기론이 미래 인구의 수를 윤리적 지렛대로 사용하면서 이 검증 절차를 함께 마련하지 않을 때, 미래를 대변하는 권한은 검증 없는 권력으로 기울 수 있다. 이 문제는 대표 없는 존재를 누가 대변하는가가 묻는 대변 권한의 조건과 곧바로 이어진다.

실리콘밸리적 변형

효율적 이타주의와 장기론은 막대한 자본과 결합할 때 특정한 모양으로 변형된다. 측정 가능한 최대의 선을 추구하는 윤리와 인류의 장기 미래를 최우선에 두는 시간관은, 기술 산업이 스스로를 이해하는 방식과 자연스럽게 맞물린다. 자신이 만드는 기술이 인류의 미래를 좌우한다고 믿는 자에게, 장기론은 그 믿음을 도덕적 사명으로 격상시키는 언어를 제공한다.

이 결합 속에서 인류의 장기 미래, 인공지능 안전, 우주 개발, 생존 위험 같은 어휘가 전면에 등장한다. 이 어휘들은 시선을 먼 곳으로, 큰 것으로, 종 전체의 운명으로 끌어올린다. 시선이 그렇게 올라가는 동안 가까운 곳에서 진행되는 일들은 상대적으로 작아 보일 수 있다. 데이터센터가 빨아들이는 전력과 냉각수, 모델을 학습시키기 위해 추출되는 데이터, 그 데이터의 원천인 사람들의 노동, 저임금으로 수행되는 라벨링과 콘텐츠 검수의 후면 노동, 소수 기업으로 집중되는 자본, 가장 취약한 지역으로 떠넘겨지는 기후 부담. 이 모든 현재의 물질적 비용은 종의 장기 생존이라는 거대한 그림 앞에서 사소한 항목으로 처리될 위험을 갖는다.

실리콘밸리적 변형의 핵심에는 하나의 역설이 있다. 미래의 인류를 구하기 위해 동원되는 부는 현재의 인류로부터, 그들의 노동과 데이터로부터, 그리고 행성의 자원으로부터 추출된다. 지구를 떠나 인류의 미래를 다른 곳에 심겠다는 상상은 이 추출 구조를 선명하게 드러낸다. 그 상상 속에서 현재의 지구와 현재의 거주자는 떠나야 할 배경이 되고, 떠남을 준비하는 비용은 다시 그 배경으로부터 충당된다. 이 구도가 현재의 책임을 어떻게 재배치하는지는 지구를 떠나는 책임에서 더 자세히 다룬다.

최적화의 윤리와 사라지는 질문

사회 문제를 효율적 이타주의의 틀로 옮기면 그것은 최적화 문제가 된다. 주어진 자원으로 어떻게 최대의 선을 산출할 것인가. 이 물음은 강력하며, 동시에 한 가지 전제를 품는다. 최적화에는 단일한 목적 함수와 그 함수를 최적화하는 단일한 주체가 있어야 한다는 전제다. 무엇이 선인지에 대한 합의, 그리고 그 선을 누가 정의하는가에 대한 합의가 이미 끝나 있어야 최적화가 시작된다.

정치는 바로 그 합의가 부재한 자리에서 작동한다. 무엇이 선인가, 누가 그것을 정의하는가, 누가 비용을 지는가를 둘러싼 다툼이 정치의 내용이다. 사회 문제를 최적화 문제로 번역하는 순간, 이 다툼은 풀어야 할 갈등보다 계산을 방해하는 잡음처럼 취급될 수 있다. 최적화의 윤리는 누가 비용을 부담하는가라는 분배의 질문, 누가 판정하는가라는 권한의 질문, 피해자는 어디에 항소하는가라는 구제의 질문, 현재의 고통은 어떤 언어로 인정되는가라는 승인의 질문을 차례로 밀어낸다. 가장 큰 선을 묻는 질문 하나가 이 네 개의 질문을 덮는다.

밀려난 질문들은 모두 제도의 질문이다. 비용 분담, 판정 권한, 항소 절차, 고통의 공적 인정은 어느 것도 계산만으로 해결되지 않는다. 그것들은 누가 어떤 자격으로 결정하고, 그 결정에 어떻게 이의를 제기하며, 잘못된 결정이 어떻게 교정되는가에 관한 제도적 책임의 문제다. 기술 환원주의가 사회 문제를 최적화 문제로 옮길 때 사라지는 것은 답보다 질문이며, 사라지는 질문은 제도가 책임을 지게 만드는 질문이다. 이 환원이 어디까지 가능하고 어디서 한계에 부딪히는지는 사회적 문제의 기술 환원주의와 그 한계에서 다룬다.

안전이라는 판정의 권한

인공지능 안전과 실존 위험을 둘러싼 담론을 과장으로만 처리하는 것은 충분한 대응이 되기 어렵다. 통제를 벗어난 고도 인공지능, 합성 생물학의 오용, 핵 위기 같은 시나리오는 인류 전체를 위협할 수 있는 위험으로 논의되어 왔고, 이런 위험을 진지하게 사유하는 작업에는 분명한 가치가 있다. 닉 보스트롬과 토비 오드 같은 연구자들이 실존 위험을 윤리의 정식 의제로 끌어올린 것도 이 맥락에 놓인다.

문제는 위험의 존재 자체보다 위험을 정의하는 권한이 어디에 놓이는가에 있다. 어떤 위험을 실존적이라 부르고 어떤 피해를 견딜 만한 부작용이라 부를 것인가, 무엇에 자원을 먼저 배분하고 무엇을 나중으로 미룰 것인가를 정하는 권한이 소수의 기업과 재단과 기술 엘리트에게 집중될 때 정치적 문제가 발생한다. 안전이라는 말은 언제나 누군가의 안전이다. 먼 미래의 가상적 초지능이 제기하는 위험은 막대한 자원과 주목을 받는 반면, 지금 알고리즘이 내리는 차별적 판정, 플랫폼 노동자의 불안정한 생계, 동의 없이 수취되는 데이터, 남반구로 전가되는 기후 부담은 작은 위험으로 분류될 수 있다. 이 비대칭은 위험의 객관적 크기만으로 설명되지 않는다. 그것은 누구의 위험이 크게 보이도록 판이 짜여 있는가의 문제다.

미래의 파국을 상상하는 방식은 현재의 무엇을 긴급한 것으로 느끼게 만들고 어떤 고통을 시야에서 지운다. 이 상상이 현재의 감각과 책임을 재편하는 방식은 파국의 정동에서 다룬다. 위험을 정의하는 권한과 자원을 배분하는 권한이 분리되지 않을 때, 안전은 가장 큰 위험을 다룬다는 명분으로 가장 큰 권한을 정당화하는 장치가 된다. 안전이 이렇게 판정 권력으로 굳어지는 과정은 안전이라는 이름의 권력에서 이어서 읽을 수 있다.

미래를 위한다는 말의 조건

미래는 윤리의 정당한 대상이다. 장기론이 그 대상을 시야에 넣은 것은 되돌릴 수 없는 진전이며, 이 분석은 그 진전을 무효화하지 않는다. 이 글의 결론은 미래 책임을 현재 책임으로 되돌려 세우는 데 있다. 미래를 위한다는 말이 정당성을 가지려면 그 말은 현재의 피해자에게 응답할 수 있어야 한다.

미래를 위한다는 말이 현재의 노동자, 기후 취약 계층, 데이터를 제공한 사람들, 규제의 영향을 받는 시민을 건너뛸 때, 그 말은 책임의 언어에서 책임의 유예로 변한다. 종의 장기 생존을 위해 지금의 고통을 사소한 비용으로 처리하는 윤리는 그 미래를 떠받칠 현재의 제도를 비워 둔다. 누가 비용을 지는가, 누가 판정하는가, 피해자는 어디에 항소하는가, 현재의 고통은 어떤 언어로 인정되는가. 미래를 위한다는 어떤 기획도 이 네 질문에 답해야 한다.

미래 세대에 대한 책임은 현재의 제도적 책임을 더 정밀하게 요구하는 언어로 성립한다. 진정으로 먼 미래를 책임지려는 자는 가장 먼저 지금 여기에서 비용을 지고 판정을 받고 항소를 허용하는 제도를 세운다. 미래를 향한 시선이 현재의 항소를 봉쇄하는 순간, 그 시선은 현재의 책임으로부터 도주하는 통로가 된다. 미래에 대한 책임의 진정성은 그것이 현재의 책임을 얼마나 더 무겁게 만드는가로 측정된다.

이어 읽기

작성 정보

초안 작성: Claude · Claude Opus 4.8 · Max Adaptive Thinking
검토·개고: ChatGPT · GPT-5.5 Extended Thinking

참고자료

  • Peter Singer, 「Famine, Affluence, and Morality」
  • William MacAskill, What We Owe the Future
  • Nick Bostrom, Superintelligence
  • Toby Ord, The Precipice
  • Effective Altruism 공식 소개 자료

인포그래픽

작성일: 2026년 6월 4일