콘텐츠로 이동

결과가 바뀌지 않는 항소 — 수정 가능한 판정의 여섯 조건

결과가 바뀌지 않는 항소

알고리즘 판정을 받은 사람에게 설명서가 도착한다. 대출 거절의 주요 변수, 채용 탈락의 평가 범주, 복지 조사 대상 선정의 위험 신호, 플랫폼 계정 정지의 약관 항목이 일정한 문장으로 제시된다. 설명은 있다. 이의제기 양식도 있다. 담당 부서의 이메일 주소도 있고, 처리 기한도 적혀 있다. 당사자는 자신의 상황을 다시 적어 보낸다. 잘못된 자료가 포함되었고, 맥락이 누락되었고, 같은 기준이 다른 사람에게는 다르게 적용되었다고 설명한다. 며칠 뒤 돌아오는 답변은 정중하다. “검토 결과 기존 결정이 유지됩니다.”

이 장면에서 항소권은 존재하는 것처럼 보인다. 판정받은 사람은 침묵을 강요받지 않았고, 설명을 들었으며, 자신의 의견을 제출했다. 인간 담당자가 검토했다는 문장도 받았다. 절차의 외형은 갖춰져 있다. 그러나 그 절차는 판정의 효력을 멈추지 못했고, 판정의 근거를 실질적으로 열람하게 하지 않았으며, 기존 결정과 다른 기준으로 사안을 다시 판단하지 않았다. 결과는 그대로 남았다. 항소는 발화의 기회로 허용되었지만, 판정의 효력에는 닿지 못했다.

알고리즘 판정에 대한 항소권은 판정의 효력을 유예하고, 판정 근거를 열람하며, 독립된 재심 구조 안에서 기존 판단을 취소하거나 수정할 수 있을 때 실제 구제권이 된다. 권리의 핵심은 말할 수 있음보다 이미 내려진 결정의 법적·사회적 효과에 개입할 수 있음에 있다.

알고리즘이 나를 판정할 때 나는 어디에 항소하는가가 던진 질문은 항소의 장소에 관한 것이었다. 판정자가 보이지 않을 때, 시민은 어디로 가야 하는가. 항소할 수 없는 정당성은 감사 통과가 정당성의 충분조건이 될 수 없다는 점을 보여주었다. 항소권의 제도화 비교는 설명, 이의제기, 재심, 시정의 제도화 수준이 서로 다르다는 점을 구분했다. 계산 질서가 실패할 때는 계산 시스템이 공적 판단으로 승인되는 조건이 무너질 때 어떤 일이 발생하는지 사례를 통해 보여주었다. 이제 남는 질문은 더 직접적이다. 항소가 실제로 결과를 바꾸려면 무엇이 있어야 하는가.

설명권은 항소의 출발점이다

설명권은 필요하다. 판정받은 사람은 자신에게 적용된 기준을 알아야 한다. 어떤 데이터가 사용되었는지, 어떤 위험 신호가 중요하게 작동했는지, 어떤 변수들이 결과에 영향을 주었는지 모르면 이의제기는 불가능하다. 이유를 모르는 사람은 반박할 수 없고, 반박할 수 없는 사람은 권리 주체가 아니라 처리 대상이 된다.

설명은 판정을 해석하게 하지만 판정을 멈추게 하지는 않는다. 설명은 당사자가 무엇을 문제 삼아야 하는지 알려주지만, 그 문제 제기가 어떤 효력을 갖는지는 별개의 제도 조건에 달려 있다. 알고리즘 판정의 이유를 들은 사람이 “그 데이터는 틀렸다”고 말할 수 있어도, 그 말이 판정 효력을 유예하지 못하면 항소는 이미 집행된 결과 뒤에 붙는 주석이 된다.

설명권 중심 접근은 알고리즘 판정의 문제를 인식 가능성의 문제로 좁히는 경향이 있다. 무엇이 일어났는지 알 수 있으면 권리가 회복될 수 있다는 가정이다. 그러나 알고리즘 판정이 삶에 개입하는 방식은 지식의 부족보다 강하다. 대출은 거절되고, 면접 기회는 사라지고, 복지 조사는 시작되고, 계정은 정지되고, 보험료는 바뀐다. 판정은 설명 이전에 효력을 발생시킨다. 설명이 사후적으로 도착할 때, 당사자는 이미 결정의 결과 안에 들어가 있다.

실질적 항소권의 첫 조건은 판정 효력의 유예 가능성이다. 항소가 접수되었을 때 기존 판정이 자동으로 집행되는지, 일정한 조건에서 정지되는지, 긴급한 피해가 예상될 때 임시 보호 조치가 가능한지가 중요하다. 판정의 효력이 그대로 유지되는 상태에서 이루어지는 이의제기는 사후 의견 제출에 가깝다. 효력 유예가 가능할 때 항소는 판정 과정의 일부가 된다.

효력 유예는 모든 판정을 같은 방식으로 멈추는 장치가 아니다. 생명, 안전, 사기 방지, 긴급 보안처럼 즉시 집행이 필요한 영역은 존재한다. 그 경우에도 제도는 예외의 사유와 기간, 사후 재심의 강도, 피해 회복의 방식을 명시해야 한다. 유예가 가능한 판정, 즉시 집행이 필요한 판정, 집행 이후 강한 사후 구제가 필요한 판정을 구분할 때 항소권은 현실의 제도 안에서 작동할 수 있다.

이의제기권은 근거 접근권을 필요로 한다

이의제기권은 당사자가 판정을 다툴 수 있는 권리다. 다툼은 근거에 접근할 수 있을 때 의미를 갖는다. “결정에 동의하지 않는다”는 진술만으로 판정 구조는 흔들리지 않는다. 당사자는 자신에게 불리하게 작용한 원자료, 적용된 기준, 판단 근거, 대리변수, 배제 규칙에 접근할 수 있어야 한다.

원자료 접근권은 단순한 정보 열람권보다 넓다. 여기에는 잘못 입력된 개인정보, 오래된 기록, 맥락을 잃은 데이터, 타인의 정보와 혼합된 자료, 대리변수로 사용된 항목, 모델이 직접 사용하지 않았지만 기관의 후속 판단에 영향을 준 내부 메모가 포함된다. 알고리즘 판정은 순수한 모델 출력 하나로 끝나지 않는다. 데이터 수집, 전처리, 점수화, 기관 내부 기준, 현장 담당자의 해석, 자동 통보 절차가 함께 작동한다. 당사자가 접근해야 할 근거도 이 전체 경로에 걸쳐 있다.

접근권이 약할수록 입증 책임은 당사자에게 쏠린다. 판정받은 사람은 자신이 왜 불리한 결정을 받았는지 모르는 상태에서 그 결정이 잘못되었음을 증명해야 한다. 기관은 데이터와 모델, 내부 기준을 보유하고 있고, 당사자는 결과 통보만 받는다. 이 비대칭이 유지되는 한 이의제기권은 형식적 권리로 남는다.

실질적 항소권은 입증 책임의 재배분을 요구한다. 당사자는 오류 가능성을 합리적으로 제기할 수 있어야 하고, 그 이후에는 판정 기관이 결정의 근거와 정당성을 제시해야 한다. 특히 자동화 판정이 중대한 권리, 생계, 접근 기회, 공적 지위에 영향을 미칠 때 기관은 “시스템상 그렇게 나왔다”는 말로 책임을 종결할 수 없다. 기관은 어떤 자료가 사용되었고, 그 자료가 왜 관련성이 있으며, 그 기준이 해당 사안에 어떻게 적용되었고, 예외 사정이 어떤 이유로 반영되지 않았는지를 제시해야 한다.

입증 책임의 재배분은 알고리즘 시스템의 기술적 비밀을 전부 공개하라는 요구와 구별된다. 영업비밀, 보안, 개인정보 보호의 한계는 실제 제도 설계에서 고려되어야 한다. 그 한계가 당사자의 항소권을 무력화하는 방패로 쓰일 때 문제가 발생한다. 전체 모델의 가중치를 공개하지 않더라도, 개별 판정에 사용된 핵심 근거, 오류 검토에 필요한 자료, 독립 재심 기관이 확인할 수 있는 내부 기록은 제공되어야 한다. 항소권은 공개 가능한 정보의 범위를 넓히는 권리인 동시에, 공개하기 어려운 정보를 독립된 절차 안에서 검증하게 만드는 권리다.

인간 검토는 재심으로 설계되어야 한다

알고리즘 판정에 대한 제도 논의에서 자주 등장하는 장치가 인간 검토다. 자동화된 결정에 인간이 개입하면 권리 침해를 줄일 수 있다는 생각이다. 이 생각에는 타당한 부분이 있다. 완전 자동화된 판정이 갖는 무책임성을 줄이려면 인간 담당자의 판단과 책임이 필요하다. 하지만 인간 검토는 그 자체로 재심을 보장하지 않는다.

인간 검토는 종종 기존 시스템의 출력을 확인하는 절차로 작동한다. 담당자는 모델 점수와 시스템 경고를 보고, 내부 지침에 따라 기존 결정을 유지한다. 이 과정에서 인간은 독립 판단자가 아니라 자동화 판정의 승인자로 기능한다. 사람의 이름이 붙었지만 판단 기준은 동일하고, 검토의 범위도 시스템이 제시한 항목 안에 머문다. 이 경우 인간 검토는 책임 회수 장치보다 책임 분산 장치에 가까워진다.

책임은 하나의 덩어리가 아니다. 판정 기준을 세운 책임, 자료를 수집하고 관리한 책임, 모델 출력을 행정적·상업적 결정으로 승인한 책임, 당사자에게 설명할 책임, 오류를 시정할 책임, 손해를 보상할 책임은 서로 다르다. 인간 검토가 이 책임들을 분리해 드러내지 못하면 조직은 “사람이 확인했다”는 문장으로 자동화 판정의 권위를 강화한다. 책임 있는 인간 개입은 기존 결정을 추인하는 절차가 아니라, 어느 단계에서 어떤 책임이 발생했는지 식별하는 절차여야 한다.

실질적 재심은 자동화 시스템과 다른 기준에 의한 재판단을 포함해야 한다. 재심 기관은 모델 출력의 정확성을 확인하는 데 그쳐서는 안 된다. 데이터가 해당 맥락에서 적절한지, 기준이 과도하게 일반화되었는지, 대리변수가 차별적 효과를 만들었는지, 예외 사정이 고려되었는지, 인간의 법적·윤리적 판단이 필요한 영역을 모델 점수가 대체했는지를 따져야 한다. 재심은 같은 계산을 한 번 더 돌리는 절차가 아니라, 계산 결과가 공적 판단이 될 자격을 갖추었는지 다시 묻는 절차다.

이를 위해서는 독립된 재심 기관 또는 명확한 책임 주체가 필요하다. 판정을 내린 부서가 같은 자료와 같은 기준으로 자기 결정을 다시 확인하는 구조에서는 구제 가능성이 약하다. 재심 주체는 판정 시스템을 도입한 기관, 모델을 개발한 업체, 현장 담당자, 감사 기관과 구분된 책임 위치를 가져야 한다. 완전한 외부 기관이 항상 가능한 것은 아니지만, 최소한 재심 담당자는 기존 판정의 성과 지표와 조직 이해관계에서 일정하게 분리되어야 한다.

책임 주체의 명확성도 중요하다. 알고리즘 판정은 책임을 분해하기 쉽다. 개발자는 모델을 만들었을 뿐이라고 말하고, 도입 기관은 시스템을 사용했을 뿐이라고 말하며, 현장 담당자는 내부 기준을 따랐을 뿐이라고 말한다. 항소권이 작동하려면 당사자가 누구에게 무엇을 요구할 수 있는지 알아야 한다. 재심 요청을 접수하는 주체, 자료를 제출할 주체, 판정을 정지할 주체, 결정을 취소할 주체, 보상을 집행할 주체가 분명해야 한다.

재심권은 사람을 절차에 끼워 넣는 문제보다 더 넓다. 재심권은 기존 판정과 다른 판단 권한을 가진 주체를 세우는 문제다. 인간이 개입하더라도 기존 모델의 결과를 추인하는 역할에 머문다면, 당사자는 여전히 알고리즘 판정의 바깥으로 나갈 수 없다. 재심은 판정받은 사람이 계산 결과를 다시 계산받는 것이 아니라, 계산 결과를 사회적 판단으로 승인한 절차 전체를 다시 판단받는 것이다.

수정 가능한 판정의 여섯 조건

알고리즘 판정에 대한 항소권이 실제 구제권이 되려면 판정은 수정 가능한 상태로 설계되어야 한다. 여기서 수정 가능성은 기술적으로 값을 바꿀 수 있다는 뜻이 아니다. 제도적으로 효력을 멈추고, 근거를 열람하고, 다른 기준으로 다시 판단하고, 결과를 취소하거나 수정하고, 피해를 회복할 수 있어야 한다는 뜻이다.

첫째 조건은 판정 효력의 유예 가능성이다. 항소가 접수되었을 때 판정이 즉시 확정되는 구조에서는 구제의 시간성이 무너진다. 대출, 채용, 복지, 의료, 플랫폼 노동, 계정 정지 같은 영역에서 시간은 권리의 일부다. 나중에 잘못이 인정되어도 이미 기회를 잃었거나 생계가 무너졌다면 항소권은 충분히 작동했다고 보기 어렵다. 제도는 항소 접수, 긴급성 판단, 임시 유지, 집행 정지, 사후 회복의 기준을 가져야 한다.

둘째 조건은 원자료와 판단 근거에 접근할 권리다. 당사자는 자신에게 적용된 데이터와 기준을 확인할 수 있어야 한다. 접근권은 판정의 문장을 받는 권리보다 강해야 한다. 어떤 자료가 들어갔는지, 어떤 자료가 빠졌는지, 어떤 항목이 핵심 변수로 작동했는지, 어떤 기준이 예외 사정을 배제했는지를 확인할 수 있어야 한다. 접근권이 약한 항소는 추측 위에서 이루어진다.

셋째 조건은 독립된 재심 기관 또는 책임 주체다. 기존 결정을 내린 주체가 동일한 이해관계 안에서 동일한 기준으로 재검토하는 구조는 재심의 이름을 빌린 자기 승인에 가깝다. 재심 주체는 기존 판정의 오류 가능성을 실제로 열어 둘 수 있어야 한다. 또한 당사자에게는 항소 절차를 담당하는 명확한 창구가 있어야 한다. 담당자 없는 권리는 작동하지 않는다.

넷째 조건은 자동화 시스템과 다른 기준에 의한 재판단이다. 알고리즘 판정의 문제는 모델이 틀렸다는 데만 있지 않다. 모델이 맞게 계산했더라도 그 계산이 해당 상황의 정당한 판단 기준이 될 수 없는 경우가 있다. 재심은 데이터 오류, 모델 오류, 정책 기준 오류, 인간 집행 오류를 구분해야 한다. 같은 시스템에 같은 입력값을 넣어 같은 결과를 확인하는 절차는 재심이 아니다. 재심은 모델의 출력과 별도로 법적 기준, 제도 목적, 비례성, 맥락, 예외 사정을 판단해야 한다.

다섯째 조건은 입증 책임의 재배분이다. 판정받은 사람에게 블랙박스 내부의 오류를 증명하라고 요구하는 순간 항소권은 소진된다. 당사자는 오류 가능성을 제기하고 관련 자료의 열람을 요구할 수 있어야 하며, 판정 기관은 결정의 근거와 정당성을 제시해야 한다. 특히 시스템이 대규모로 운영되고 당사자가 구조적으로 정보 열위에 놓이는 경우, 기관의 설명·제출·검증 책임은 더 무거워져야 한다.

여섯째 조건은 수정·취소·보상으로 이어지는 구제 장치다. 항소 절차가 잘못을 인정하면서도 아무 결과를 만들지 못한다면 그것은 구제가 아니다. 잘못된 점수는 수정되어야 하고, 부당한 결정은 취소되어야 하며, 잃어버린 자격이나 기회는 가능한 범위에서 회복되어야 한다. 이미 발생한 손해가 있다면 보상 절차가 필요하다. 더 나아가 반복 오류가 확인되면 개별 사건의 수정에 그치지 않고 시스템 기준과 데이터 처리 방식이 바뀌어야 한다.

이 여섯 조건은 하나의 절차적 사슬을 이룬다. 효력 유예는 재심이 작동할 시간을 만들고, 근거 접근권은 이의제기의 내용을 만들며, 독립 주체와 다른 기준의 재판단은 기존 판정을 흔들 수 있는 권한을 만든다. 입증 책임의 재배분과 구제 장치는 항소를 의견 제출에서 권리 회복 절차로 바꾼다. 수정 가능한 판정은 이 사슬이 끊기지 않을 때 성립한다.

구제권은 개인 사건을 넘어 시스템을 수정한다

알고리즘 판정의 항소권은 개별 당사자의 구제에 그치지 않는다. 개별 항소는 시스템 오류를 발견하는 제도적 감각기관이 될 수 있다. 한 사람의 복지 위험 점수 오류, 한 지원자의 채용 배제, 한 노동자의 계정 정지, 한 환자의 낮은 위험 분류는 단순한 예외가 아닐 수 있다. 같은 오류가 반복된다면 문제는 개별 판정이 아니라 판정 구조에 있다.

따라서 구제 장치는 개별 사건의 수정과 시스템 개선을 연결해야 한다. 재심 과정에서 특정 데이터 항목이 반복적으로 잘못 작동한다는 점이 확인되면 그 항목은 수정되거나 제거되어야 한다. 대리변수가 특정 집단에 구조적으로 불리하게 작동한다면 기준 자체가 재검토되어야 한다. 인간 담당자가 모델 점수를 사실상 자동 승인하고 있다면 운영 지침이 바뀌어야 한다. 항소권은 사후 민원 처리 절차를 넘어, 계산 질서가 자기 오류를 학습하게 만드는 제도적 피드백 회로가 되어야 한다.

이 지점에서 항소할 수 없는 정당성의 문제의식이 다시 돌아온다. 감사가 독립적으로 이루어졌고, 모델이 일정한 성능 기준을 통과했으며, 편향성 지표가 허용 범위 안에 있다는 사실만으로 개별 판정의 정당성이 보장되지는 않는다. 감사는 시스템의 일반 조건을 점검할 수 있지만, 항소는 그 시스템이 한 사람의 삶에 적용되는 구체적 순간을 점검한다. 감사와 항소가 연결될 때 정당성은 더 강해진다. 감사 자료는 항소의 근거가 되고, 항소 사례는 다음 감사의 입력이 된다.

계산 질서가 실패할 때가 보여준 사례들도 이 관점에서 다시 읽을 수 있다. 계산 질서의 실패는 예측 성능 하나의 실패로 환원되지 않는다. 공적 목적, 대리변수, 투명성, 검증 가능성, 비례성, 책임 귀속, 항소 가능성이 함께 무너질 때 계산 결과는 정당한 판단의 자격을 잃는다. 그 실패를 줄이는 방법은 더 정교한 모델만이 아니다. 오류가 발견되었을 때 판정을 멈추고, 근거를 열고, 다시 판단하고, 결과를 수정하고, 시스템을 바꾸는 절차가 필요하다.

구제권은 이 절차의 마지막 이름이다. 구제권은 억울함을 들어주는 권리가 아니라 잘못된 판정의 효과를 되돌리는 권리다. 권리 침해가 있었다면 상태를 회복하고, 손해가 있었다면 보상하며, 구조적 오류가 있었다면 다음 판정의 조건을 바꾼다. 이 회복의 경로가 있는 항소권만이 계산 질서 안에서 권리의 이름을 유지할 수 있다.

민주적 항소권의 실질

민주적 판정 질서의 핵심은 모든 결정을 처음부터 완벽하게 내리는 데 있지 않다. 민주적 제도는 오류 가능성을 전제하고, 그 오류를 발견하고 수정할 절차를 보존한다. 법원의 항소심, 행정심판, 정보공개, 감사, 옴부즈만, 민원 제도는 모두 이 전제 위에 있다. 인간 제도는 틀릴 수 있기 때문에 정당성을 얻는다. 틀렸을 때 다시 판단할 수 있는 구조가 있기 때문이다.

알고리즘 판정은 이 전제를 약화시키기 쉽다. 계산 결과는 객관성의 형식을 띠고, 자동화된 절차는 일관성의 외관을 만들며, 감사와 인증은 정당성의 인장을 제공한다. 이 구조 안에서 당사자의 항소는 종종 비효율적인 예외 처리로 취급된다. 시스템은 빠르게 판단하고, 항소는 느리게 따라온다. 시스템은 대량으로 적용되고, 항소는 개별적으로 분산된다. 시스템은 조직의 권한을 강화하고, 항소는 당사자의 부담으로 남는다.

이 비대칭을 줄이는 것이 민주적 항소권의 과제다. 항소권은 알고리즘 판정을 적대시하는 권리가 아니다. 항소권은 계산 결과가 공적 판단으로 쓰일 수 있는 조건을 분명히 하는 권리다. 사회가 알고리즘 시스템을 사용할 수는 있다. 그러나 그 시스템이 삶의 기회, 자원, 권리, 위험, 자격을 판정한다면 그 판정은 반드시 수정 가능한 상태로 남아 있어야 한다. 계산은 판단을 보조할 수 있지만, 항소 불가능한 최종 권위가 될 수는 없다.

설명권은 항소권의 언어를 제공한다. 이의제기권은 항소권의 통로를 제공한다. 인간 검토권은 항소권의 책임 위치를 열 수 있다. 이 셋은 판정의 효력에 개입할 수 있을 때 실질적 권리가 된다. 항소권의 실질은 발화 기회가 아니라 판정 효력에 대한 개입 가능성이다. 판정을 유예하고, 근거를 열람하고, 독립적으로 재심하고, 다른 기준으로 다시 판단하고, 입증 책임을 재배분하며, 수정·취소·보상으로 이어지는 제도 안에서 항소권은 실제 구제권이 된다.

이어 읽기

작성 정보

초안 작성: GPT · GPT 5.5 · Extended Thinking
검토·개고: ChatGPT · GPT-5.5 Extended Thinking

인포그래픽

작성일: 2026년 6월 1일