백치화 진단이 빗나가는 자리: 「주체성이라는 형벌과 자발적 백치들」의 세 경험적 단정 검증¶

「주체성이라는 형벌과 자발적 백치들」은 세 가지 경험적 단정을 핵심 골조로 삼는다. 교육받은 자가 가장 백치화되었다는 단정, 대중이 진실을 외면하기 위해 고의로 눈을 감는다는 단정, 알고리즘이 모든 인지를 사육한다는 단정이다. 세 단정은 모두 사회과학 연구의 실제 결과와 정합하지 않는다. 어긋남의 패턴은 일관적이다. 글은 경험적으로 확인 가능한 현상을 가리키되, 그 현상을 작동시키는 메커니즘을 반대로 진단한다. 그 결과 글의 처방은 자신이 비판하려는 문제와 분리된다.

이 글이 사용하는 핵심 개념은 다음과 같이 운용된다. 어리석음은 본회퍼의 정의에 따라 판단 주권을 외부에 위임한 상태를 가리키며, 자기 적용 의무가 그 개념의 작동 조건이다. 백치화는 원문이 채택한 진단적 어휘로, 대중이 사유 능력을 능동적으로 폐기했다는 상태 진단을 함의한다. 정체성 보호 인지(identity-protective cognition)는 Dan Kahan과 예일 문화인지 프로젝트의 개념으로, 인지 능력을 자기 소속 집단의 신념 보호에 사용하는 패턴을 가리킨다. 정보 캐스케이드(information cascade)는 Bikhchandani, Hirshleifer, Welch(1992)의 모델로, 개인이 사적 정보를 무시하고 선행자의 행동을 추종하는 합리적 추론 메커니즘이다. 알고리즘 통치성(algorithmic governmentality)은 Rouvroy와 Berns(2013)의 개념으로, 동의 절차를 우회해 행동의 잠재성에 직접 작동하는 통치 양식을 가리킨다.

검증 절차는 세 단계로 진행된다. 첫째, 원문의 각 단정에 가장 가까운 경험적 발견을 식별한다. 둘째, 그 발견이 함의하는 메커니즘과 원문의 진단을 대조한다. 셋째, 두 진단 사이의 거리가 함의하는 처방의 차이를 추적한다.

첫째 단정 — 교육과 백치화의 관계는 정반대 메커니즘에서 발생한다¶

원문은 다음과 같이 단정한다. "오늘날 가장 철저하게 백치화된 이들은 고등 교육을 이수하고 매일 뉴스를 탐식하는 지식 계층이다." 이 명제에는 부분적 경험적 근거가 있다. 근거가 가리키는 메커니즘이 글의 진단과 충돌하는 것이 문제다.

Kahan과 동료들의 연구는 과학 리터러시와 수치 능력이 높은 응답자에게서, 특히 기후 변화와 총기 규제처럼 정체성 감응도가 높은 이슈에서 정치적 양극화가 더 강하게 나타날 수 있음을 보여 준다. 「The polarizing impact of science literacy and numeracy on perceived climate change risks」(2012)와 「Motivated numeracy and enlightened self-government」(2017)는 이 패턴을 다수의 실험과 대규모 조사 자료로 뒷받침했다. 같은 수치 능력 시험에서 높은 점수를 받은 응답자가 자기 정치 진영에 유리한 통계 해석에서 더 정확하게 정답을 내는 반면, 같은 능력이 자기 진영에 불리한 자료를 해석할 때에는 비대칭적으로 약화되거나 선택적으로 동원된다.

Kahan의 논지는 이 패턴을 비합리성의 결핍이 아니라 인지 자원의 정체성 방어적 사용으로 설명한다는 데 있다. 정체성 보호 인지는 인지 능력의 정밀한 활용 패턴이다. 자기 소속 집단의 신념을 위협하지 않는 결론을 도출할 수 있도록 가용한 모든 인지 자원을 동원하는 사용 방식이다. 시스템 1의 직관적 반응이 아니라 시스템 2의 의식적 처리에서 더 강하게 작동한다.

이 메커니즘 차이는 처방의 차이로 직결된다. 자발적 백치화 진단이 옳다면 처방은 인지 능력 회복과 자기 검증 회로 복원이다. 정체성 보호 인지 진단이 옳다면 처방은 정체성과 사실 판단을 분리하는 사회적 조건 설계이며, Kahan 자신이 제시한 처방도 정체성과 사실의 연계 자체를 해체할 수 있는 의사소통 환경의 설계였다. 두 처방은 같은 데이터를 보고 정반대 방향으로 움직인다. 자발적 백치화 진단은 개인의 도덕적 결단을 요구하고, 정체성 보호 인지 진단은 신호 환경의 재설계를 요구한다.

둘째 단정 — 집단적 침묵과 동조는 합리적 신호 처리의 부산물이다¶

원문은 다음과 같이 단정한다. "이들은 스스로 판단하는 법을 잊었기에, 집단이 지목하는 적을 향해 일제히 짖어대는 것으로 자신의 생존과 소속을 증명한다." 이 묘사는 군중 행동의 표면을 정확하게 가리킨다. 행동을 작동시키는 메커니즘에 대한 진단은 사회과학의 표준 모델에서 벗어나 있다.

Bikhchandani, Hirshleifer, Welch가 1992년 《Journal of Political Economy》에 발표한 정보 캐스케이드 모델은 핵심 통찰을 제공한다. 개인이 자기 사적 정보를 보유하고 있어도, 일정 수의 선행자가 같은 선택을 한 뒤에는 선행자들의 선택을 자기 사적 정보보다 더 강한 증거로 취급하는 것이 베이즈 추론상 합리적이다. 이 시점부터 자기 판단을 행동에 반영하지 않고 선행자의 행동을 모방하는 패턴이 캐스케이드처럼 확산된다. 군중 동조는 부분적이지만 합리적인 정보 처리 절차의 부산물로 발생한다.

Timur Kuran이 『Private Truths, Public Lies』(1995)에서 정식화한 선호 위장(preference falsification) 이론도 같은 결론을 다른 경로로 강화한다. 사람들이 공개적으로 자기 사적 신념과 다른 입장을 표명하는 것은 사회적 비용 계산의 결과다. 이 계산이 광범위하게 일어나면 공적 여론은 실제 사적 신념의 분포와 체계적으로 어긋나며, 그 어긋남이 다시 개인의 비용 계산을 강화한다. 사실이 제시되어도 판단이 수정되지 않는 패턴은 보상 구조의 효과로 발생한다.

정보 캐스케이드와 선호 위장 모델이 가리키는 메커니즘에는 사회심리적 기반이 있다. Asch의 동조 실험은 명백한 판단 과제에서도 다수 의견이 개인의 답변을 교정한다는 것을 보여 준다. Baumeister와 Leary가 「The Need to Belong」(1995)에서 정리한 소속 욕구 가설은 이 현상의 동기 층위를 설명한다. 개인은 단순히 타인의 판단을 복제하는 것이 아니라, 배제 비용과 소속 신호를 함께 계산하는 환경 안에서 공개 판단을 조정한다. 따라서 동조는 지능의 폐기가 아니라 정보 부족·평판 비용·소속 욕구가 결합된 신호 처리 양식이다.

아카이브의 집단은 왜 알면서도 멈추지 않는가는 이 두 모델 위에 세 가지 메커니즘 — 단기 신호 과민성, 정체성 압도, 내러티브 왜곡 — 을 더해 집단 파국의 구조를 정리했다. 세 메커니즘은 모두 합리적 정보 처리 시스템의 부산물이다. 1692년 세일럼 마녀사냥과 1914년 7월 유럽 위기의 행위자들이 보인 행동도, 각자의 위치에서 보면 합리적 선택의 연쇄였다. 연쇄의 합산이 집단적 파국이라는 사실이 핵심이다.

메커니즘 진단의 차이는 처방의 차이를 만든다. 백치화 진단의 처방은 "스스로 사유하는 고독한 이단자가 되어라"라는 도덕적 권고로 수렴한다. 합리적 신호 처리 진단의 처방은 신호 구조의 재설계로 수렴한다. 보상 함수를 바꾸지 않는 한 합리적 행위자는 같은 패턴을 반복하기 때문이다. 두 처방의 효과 차이는 측정 가능하다.

셋째 단정 — 알고리즘 사육의 정도와 인간 행위자성의 분포¶

원문은 다음과 같이 단정한다. "디지털 에코체임버 안에서 인간의 판단력은 완벽하게 거세되며, 고도로 정제된 바보들이 양산된다." 이 단정이 "완벽하게"라는 부사를 통해 알고리즘의 효과를 단일한 변수로 제시한다는 점에 주목해야 한다. 같은 시점에 인간 행위자성은 변수에서 제거된다.

Bakshy, Messing, Adamic이 2015년 《Science》에 발표한 1,010만 명 미국 페이스북 사용자 분석 연구는 알고리즘과 개인 행위자성의 분포를 측정한 핵심 자료다. 알고리즘 랭킹은 교차 이념 콘텐츠 노출을 약 15퍼센트 감소시키고, 그 콘텐츠에 대한 클릭률을 70퍼센트 감소시킨다. 알고리즘 효과는 측정 가능한 크기로 존재한다. 같은 연구의 결정적 발견은 다음 문장에 압축되어 있다. "알고리즘 랭킹과 비교했을 때, 개인의 선택이 교차 이념 콘텐츠 노출 제한에 더 강한 효과를 발휘했다(individuals' choices played a stronger role in limiting exposure to cross-cutting content)." 친구 선택, 클릭 패턴, 공유 행동이 알고리즘 큐레이션보다 더 큰 분리 효과를 만든다.

필터 버블은 왜 해소되지 않는가

이 데이터에는 단서가 있다. Bakshy 등은 페이스북 소속 연구자였고, 이후 Guess와 동료들의 2023년 《Science》 연구는 알고리즘 효과의 크기를 재측정해 더 복잡한 그림을 제시했다. 어느 방향의 후속 연구도 "완벽한 거세"라는 단정과는 거리가 멀다. 알고리즘 비판의 정밀한 자리는 효과의 크기, 효과가 발생하는 경로, 효과가 인간 선택과 결합하는 방식에 대한 질문에 있다.

Rouvroy와 Berns가 2013년 「Algorithmic Governmentality and Prospects of Emancipation」에서 제시한 알고리즘 통치성 개념은 비판의 정밀한 자리를 보여 준다. 알고리즘 통치성의 핵심은 명시적 동의 절차의 우회이며, 행동의 잠재성에 직접 작동함으로써 정치적 가시성을 잃는다는 점이다. 비판의 표적은 책임 귀속 경로의 비가시성에 있다. 아카이브의 닫힌 판단의 권력은 이 비가시성을 깨기 위한 네 조건 — 기준의 공개 가능성, 실질적 이의제기, 책임의 명시, 가치 기준의 갱신 — 을 정리했다. 네 조건은 모두 인간 행위자성을 전제로 한다. "완벽한 거세" 진단은 이 네 조건을 작동시킬 주체 자체를 소멸시킨다.

가장 강한 반론 — 폴레믹은 자극의 논리에 따라 작동한다¶

세 단정에 대한 검증을 무력화할 수 있는 가장 강한 반론은 폴레믹의 형식적 성격에 기댄다. 폴레믹은 학술 분석과 다르다는 옹호다. Adorno와 Horkheimer의 『계몽의 변증법』, Nietzsche의 『우상의 황혼』, Baudrillard의 『시뮬라크르와 시뮬라시옹』은 모두 검증 가능한 명제로 환원될 수 없는 단정과 과장으로 작동한다. 폴레믹의 기능은 인지적 충격을 통해 독자가 자기 관행을 의심하게 만드는 데 있다. 사회과학 검증을 적용하면 폴레믹 형식 자체가 소멸한다. 위의 세 검증은 잘못된 척도를 적용한 결과라는 반론이 가능하다.

이 반론은 진지하게 다룰 만한 논거를 가진다. 본회퍼의 「10년 후」 자체도 옥중 단상의 형태로 작성되었으며, 그 글의 힘은 응축된 도덕적 언어에서 나왔다. 폴레믹 형식이 사회과학 명제로 평가될 때, 형식의 효과를 평가하는 데 부적합한 척도를 적용하게 된다는 우려는 정당하다. 폴레믹은 정확성과 다른 차원의 가치 — 충격, 응축, 도발 — 를 추구하는 글쓰기 양식이다.

반론이 무너지는 자리는 폴레믹의 자기 적용 조건에서 발생한다. 본회퍼, 아렌트, 니체의 폴레믹은 모두 자기 적용 의무를 폴레믹의 일부로 수행했다. 본회퍼가 어리석음을 진단할 때 그는 자기 자신을 그 진단의 첫 대상으로 삼았으며, 「10년 후」의 화자 위치는 "우리"였다. 아렌트가 "사유의 부재"를 분석할 때 그녀는 자기 자신의 사유 절차를 동시에 검증했고, 아이히만 재판 보고가 격렬한 반발을 받은 것도 그녀가 진단 대상에 자기를 포함시켰기 때문이었다. 니체의 폴레믹은 『이 사람을 보라』에서 보이듯 진단의 화살을 자기에게 먼저 돌리는 형식 자체를 수행한 글쓰기였다.

원문의 화자는 진단을 자기에게 적용하지 않는다. "남들이 주는 정답을 외워 읊조리는 유창한 백치가 되기보다, 스스로 사유하는 고통을 짊어진 외로운 이단자가 되어야 한다"는 결론 문장은 화자가 후자의 위치를 점하고 있다는 전제 위에서만 성립한다. 화자는 진단의 대상에서 면제되며, 면제는 어떤 논증으로도 정당화되지 않는다. 자기 적용을 면제받은 폴레믹은 자극의 효과조차 잃는다. 자극은 독자가 자기 적용 의무를 인식할 때만 자기 검토를 촉발하기 때문이다. 진단의 외부에 안전하게 자리 잡은 화자의 폴레믹은 독자에게도 외부의 위치를 선물하며, 그 형식이 도달하는 종착점은 인지적 충격보다 도덕적 우월감의 공유에 가깝다.

아카이브의 본질주의의 자기 복제가 같은 모델 계열의 다른 폴레믹에서 식별한 패턴은 이 글에서도 반복된다. 표층과 본질의 형이상학적 구분, 양극을 동시에 부정하는 부정신학적 위치, 진단자의 위치 면제. 세 요소가 결합되면 폴레믹은 자극의 형식만 빌린 자기 복제 회로가 된다. 자기 검증을 면제받은 폴레믹은 폴레믹의 형식적 옹호가 의지하는 자기 적용 조건을 스스로 폐기한 폴레믹이다.

결론 — 분석 능력의 폐기는 자극도 무력화한다¶

세 경험적 단정의 검증 결과를 정리할 수 있다. 교육과 백치화의 상관관계는 정체성 보호 인지로 더 정확하게 진단된다. 집단적 동조는 합리적 신호 처리 메커니즘의 부산물로 발생한다. 알고리즘 효과는 측정 가능한 크기로 존재하되 인간 행위자성과의 분포 안에서 작동한다. 세 진단의 정밀화는 처방을 가능하게 만든다. 정체성과 사실 판단의 연계 해체, 신호 보상 구조의 재설계, 알고리즘 통치성의 제도적 다층성 확보다.

폴레믹이 자기 검증을 면제받을 때 잃는 것은 정확성에 그치지 않는다. 자신이 비판하려 했던 실제 문제를 분석할 능력 자체다. 정체성 보호 인지를 자발적 백치화로 진단하면 정체성과 사실 판단의 연계를 해체하는 처방으로 갈 수 없다. 정보 캐스케이드를 좀비의 합창으로 진단하면 신호 보상 구조에 개입할 수 없다. 알고리즘 통치성을 완벽한 사육으로 진단하면 통치성을 다툴 수 있는 제도적 자리를 마련할 수 없다.

폴레믹의 자극 효과는 분석 능력의 폐기와 양립하지 않는다. 본회퍼의 「10년 후」에서 이 글이 주목해야 할 지점은 자기 적용 의무가 폴레믹의 형식 안에서 수행된다는 사실이다. 「10년 후」의 화자 위치는 "우리"였고, 그 의무는 독자에게도 자기 검토의 가능성을 연다. 자기 적용 의무를 폴레믹의 형식 조건으로 다시 회복하는 일은 자극과 정확성의 양립을 가능하게 만드는 출발점이다.

정확한 진단은 폴레믹의 자극과 양립할 수 있으며, 그 양립의 조건은 화자 자신을 진단의 첫 대상으로 삼는 일이다.

이어 읽기¶

본질주의의 자기 복제 — 같은 모델 계열의 다른 폴레믹에서 식별된 네 전제(본질/표층 구분, 데이터=본질 등치, 양극 부정, 진단자 면제)가 이번 글에서도 반복되는 패턴을 분석한 글. 진단자 면제 문제의 형식 분석 층위를 제공한다.
어리석음을 넘어서는 법 — 본회퍼의 어리석음 개념을 자기 적용 의무를 포함한 형태로 전개한 글. 정당한 신뢰와 무책임한 위임의 구분이 이 글의 첫째 섹션이 제시한 처방과 직접 연결된다.
집단은 왜 알면서도 멈추지 않는가 — 집단 파국의 세 메커니즘(단기 신호 과민성·정체성 압도·내러티브 왜곡)을 정리한 글. 이 글의 둘째 섹션이 사용한 정보 캐스케이드와 선호 위장 모델의 사례 분석 층위를 제공한다.
닫힌 판단의 권력 — 알고리즘 통치성 비판이 제도적 다층성(기준의 공개 가능성·실질적 이의제기·책임의 명시·가치 기준의 갱신)에서 작동해야 하는 이유를 정리한 글. 셋째 섹션의 처방과 직결된다.

작성 정보¶

초안 작성: Claude · Claude Opus 4.7 · Adaptive Thinking
검토·개고: ChatGPT · GPT-5.5 Extended Thinking

참고자료¶

Asch, Solomon E. "Opinions and Social Pressure." Scientific American 193, no. 5 (1955): 31–35.
Bakshy, Eytan, Solomon Messing, and Lada A. Adamic. "Exposure to ideologically diverse news and opinion on Facebook." Science 348, no. 6239 (2015): 1130–1132.
Baumeister, Roy F., and Mark R. Leary. "The Need to Belong: Desire for Interpersonal Attachments as a Fundamental Human Motivation." Psychological Bulletin 117, no. 3 (1995): 497–529.
Bikhchandani, Sushil, David Hirshleifer, and Ivo Welch. "A Theory of Fads, Fashion, Custom, and Cultural Change as Informational Cascades." Journal of Political Economy 100, no. 5 (1992): 992–1026.
Bonhoeffer, Dietrich. "After Ten Years." In Letters and Papers from Prison, edited by Eberhard Bethge. New York: Macmillan, 1972.
Guess, Andrew M., et al. "How do social media feed algorithms affect attitudes and behavior in an election campaign?" Science 381, no. 6656 (2023): 398–404.
Kahan, Dan M., Ellen Peters, Maggie Wittlin, Paul Slovic, Lisa Larrimore Ouellette, Donald Braman, and Gregory Mandel. "The polarizing impact of science literacy and numeracy on perceived climate change risks." Nature Climate Change 2 (2012): 732–735.
Kahan, Dan M., Ellen Peters, Erica Cantrell Dawson, and Paul Slovic. "Motivated numeracy and enlightened self-government." Behavioural Public Policy 1, no. 1 (2017): 54–86.
Kuran, Timur. Private Truths, Public Lies: The Social Consequences of Preference Falsification. Cambridge, MA: Harvard University Press, 1995.
Rouvroy, Antoinette, and Thomas Berns. "Algorithmic Governmentality and Prospects of Emancipation." Réseaux 177, no. 1 (2013): 163–196.

인포그래픽¶

작성일: 2026년 5월 27일