에이전트는 무엇을 잊어야 하는가

상담 에이전트가 여섯 달 전의 대화 로그를 그대로 보관하고 있다고 하자. 사용자는 그 시기의 자신을 현재의 자기와 분리해 느끼는데, 시스템은 “지난봄에 당신은 이렇게 말했다”고 상기시키며 현재의 응답을 그 기록 위에 세운다. 이 장면은 흔히 기억력의 미덕, 일관성의 증거로 읽힌다. 이때 작동하는 것은 순수한 회상으로 설명하기 어렵고, 보존 정책에 가깝다. 무엇을 남길지 정한 설계가 있었고, 그 설계는 사용자가 자기 과거를 다시 쓸 시간을 충분히 열어 주는 데 실패했다. 에이전트의 기억이 외부 절차가 승인한 상태 효과라면, 망각은 승인 철회와 만료와 재서술을 포함하는 설계 의무다. 무엇을 남기고 무엇을 지울지는 기록을 통한 책임 추적과 사용자의 서사적 자기결정 사이에서 권한과 절차의 문제로 판정되어야 한다.

기억이 승인이라면 망각도 승인의 문제다

망각은 정보 소실이라는 현상에서 출발해 승인 철회라는 결정으로 구체화된다. 이 글에서 망각은 한때 현재 판단의 전제로 승인되었던 기록을 전제의 자리에서 내리는 결정을 가리킨다. 이 정의는 에이전트의 기억을 어떻게 보느냐에서 따라 나온다. LLM의 상태 없음과 기억의 외재화가 정리하듯, 모델의 대화 연속성은 내부에 쌓이는 자아의 지속성으로 설명하기 어렵고, 기록·검색·요약·갱신이라는 외부 절차의 반복 구성에 가깝다. 어떤 기록을 장기 상태로 끌어올리는 쓰기 연산이 곧 승인이고, 승인 밖의 기록은 다음 대화의 전제 바깥에 머문다.

기억이 작성되는 행위라면 망각도 작성되는 행위다. 승인이 무언가를 상태로 올리는 결정이라면, 그 결정에는 대칭적인 짝이 있다. 무엇을 상태에서 내릴 것인가. 인간에게 망각은 대체로 능동적 재구성이며, 그 재구성은 살아 있는 주체가 수행한다. 에이전트에는 그런 주체가 없으므로 내리는 결정 역시 모델 바깥의 설계와 정책이 떠맡는다. “에이전트가 무엇을 기억하는가”가 승인의 물음이었듯, “에이전트가 무엇을 잊어야 하는가”도 처음부터 설계와 권한의 물음이다. 망각을 시스템의 결함이나 성능 저하로 보는 통념은 기억을 보관소에 쌓인 소유물로 보는 그림을 그대로 물려받은 착시다. 보관소의 그림을 버리면 잊음은 능력의 한계에서 설계의 결정으로 자리를 옮긴다. 무엇을 잊을지 묻는 일은 그 결정을 누가 어떤 기준으로 내리는지 묻는 일이 된다.

기술적 잔존과 정책적 보존

에이전트의 지속 기억에는 성질이 다른 두 사태가 겹쳐 있다. 하나는 기술적 잔존이고, 다른 하나는 정책적 보존이다. 둘을 구별하지 못하면 망각의 책임이 어디에 있는지가 흐려진다.

기술적 잔존은 삭제된 항목의 영향이 다른 층에 남는 사태를 가리킨다. 외부 저장소에서 한 항목을 제거해도, 그 항목이 이미 요약으로 접혀 들어갔거나 다른 상태를 갱신하는 데 쓰였다면 파생물은 남는다. 기록이 미세조정을 거쳐 모델 파라미터에 흡수된 경우는 더 복잡하다. AI의 기록과 인류의 망각이 짚듯, 이른바 기계 비학습은 특정 정보를 모델에서 제거하려는 목표와 특정 출력을 억제하려는 목표 사이에서 여러 기술적·실질적 난점을 드러낸다. 삭제 요청을 받고 처리 완료를 통지하는 일과 그 정보의 영향을 실제로 거두는 일은 서로 다른 층위에 속한다.

정책적 보존은 지울 수 있는 기록을 계속 남기기로 한 사태를 가리킨다. 로그 보존 기간, 쓰기 정책, 요약 기준은 모두 누군가의 선택이다. 상담이나 돌봄 에이전트가 대화 전체를 무기한 보존하도록 설정되어 있다면, 그 무기한은 설계 결정이다. 두 사태가 겹치면 책임은 편리하게 증발한다. 정책적으로 보존하기로 한 것조차 기술적 한계의 언어 뒤에 숨을 수 있기 때문이다. 기술적 한계는 실재하지만, 그 한계가 정책적 선택의 알리바이가 되는 순간 두 층은 하나로 뭉뚱그려진다. 책임의 소재를 되살리려면 먼저 이 둘을 갈라, 기술적 잔존의 범위와 정책적 보존의 범위를 각각 명시해야 한다. 전자는 검증과 공개의 문제이고, 후자는 곧바로 정책의 문제다.

기록이 권력이 될 때

에이전트의 지속 기억은 곧바로 사용자에 대한 권력이 된다. 오 년 전 자신이 보낸 메시지를 다시 여는 사람을 생각해 보자. 화면에는 문장이 타임스탬프와 함께 그대로 있다. 그는 그 말을 했지만 그 말을 한 자신을 현재의 자기와 연결하기 어렵고, 그사이 자기 삶의 서사를 여러 번 고쳐 썼다. 기록이 인간 기억을 압도하는 증언 권위를 얻는 순간, 과거를 해석하는 주체의 자리가 뒤집힌다. 인식론적 법정으로서의 플랫폼과 망각의 사법적 방어선이 분석하듯, 화면에 정렬된 타임스탬프와 텍스트 앞에서 사람은 자기 현상학적 기억을 확신하면서도 침묵한다. 시스템이 보존한 로그가 무엇이 사실로 인정될지를 판정하는 법정으로 격상되고, 사람은 그 기록에 맞추어 현재를 해명하는 피심문자의 자리에 놓인다.

이 전도는 데이터 통제권과 자기 해석권을 함께 박탈한다. 자기 과거를 현재의 맥락에서 다시 말할 능력도 함께 걸려 있다. 서사적 망각의 박탈과 기억 인프라의 독점이 정식화한 대로, 망각권은 데이터를 지울 권리와 함께 어떤 문장이 현재의 나를 대표할 자격을 잃었다고 말할 수 있는 권리를 포함한다. 에이전트가 모든 대화를 영구히 전제로 삼을 수 있게 설계되면, 사용자는 자기 삶의 저자 자리에서 로그의 피심문자로 밀려난다. 지속 기억형 에이전트는 사용자가 자기 서사를 갱신할 시간을 회수하는 장치가 될 수 있다. 충실해 보이는 기억일수록 이 회수는 도움의 외양을 쓴 채 부드럽게 진행된다. 기록의 영구성과 인간의 변화 사이에는 시간의 비대칭이 있고, 지속 기억형 시스템은 늘 그 비대칭을 사용자에게 불리한 쪽으로 기울인다. 사용자는 변하고 기록은 고정된다. 둘이 충돌할 때 판정의 무게는 고정된 쪽으로 쏠린다.

책임 추적은 완전한 기록을 요구한다

가장 강한 반론은 망각 설계를 책임 회피의 기술로 규정한다. 에이전트가 내린 결정의 책임을 누군가에게 물으려면 그 결정의 경위가 남아 있어야 한다. 기록 밖의 행위는 사후에 검증하기 어렵고, 검증할 수 없는 행위에는 책임을 물을 수 없다. 거부권을 가진 무기는 누구의 양심인가가 자동화된 폭력의 정지 기능을 두고 보였듯, 어떤 거부가 어떤 임계와 이유로 일어났는지 기록 밖에 남은 거부는 책임의 좌표를 얻기 어렵다. 감사 로그, 증거 보전, 의무 기록은 같은 요구를 공유한다. 잊지 말라, 그래야 따질 수 있다. 이 관점에서 망각을 설계하자는 제안은 책임의 사슬을 끊을 구멍을 제도화하자는 말처럼 들린다.

이 반론은 한 지점에서 전적으로 옳다. 책임을 묻기 위한 기록은 사용자의 편의나 정서적 편안함을 이유로 함부로 지울 수 없다. 이 반론이 곧바로 영구 보존 결론으로 가려면 모든 기록이 같은 층위에 있어야 한다. 실제로 책임 추적이 요구하는 것은 누가 어떤 규칙으로 무엇을 결정했는가에 대한 기록이며, 이는 사용자가 어떤 사람이고 무엇을 느꼈는가에 대한 무기한의 서사적 기록과 다른 대상이다. 감사 로그가 보전해야 하는 것은 시스템의 결정 경위이고, 그것은 보존 기간과 접근 권한이 규율되는 통제된 기록이다. 상담 대화의 전문을 영구히 남기는 일은 이 요구만으로 정당화하기 어렵다. 오히려 책임의 기록과 서사의 기록을 한데 묶어 모두 영구 보존할 때 감사라는 명분은 일상적 감시로 미끄러진다. 모든 것을 남기는 시스템은 무엇이든 따질 수 있는 시스템이면서, 동시에 사용자의 모든 과거를 언제든 들이밀 수 있는 시스템이기 때문이다. 반론이 지키려는 것은 책임의 기록이고, 망각 설계가 풀어 주려는 것은 서사의 기록이다. 두 기록을 분리할 때, 지속 보존이 책임의 이름으로 자기를 정당화하는 길이 닫힌다.

망각을 설계한다는 것

망각 설계는 무엇을 지울지 정하는 일에 앞서 누가 어떤 절차로 지움을 승인하는지 정하는 일이다. 기억의 승인이 설명 책임과 판단 책임과 설계 책임으로 갈라졌듯, 망각의 승인도 같은 갈래를 따라 배치된다. 설계 책임은 만료 규칙과 보존 정책을 정한다. 무엇을 결정 경위로서 통제된 기간 동안 보존하고, 무엇을 사용자의 요청에 따라 만료시키며, 무엇을 요약으로 남기고 원문을 버릴지가 여기서 갈린다. 설명 책임은 어떤 기록이 지금 호출되어 현재 응답을 떠받쳤는지를 읽을 수 있게 만든다. 판단 책임은 사용자가 그 호출을 기억을 결론으로 고정하는 대신 근거로 다시 전유할 수 있도록 제시 방식을 연다. 이 셋은 승인의 구조 자체에 대한 책임이라는 점에서 개별 기록의 진위 판정과 다른 상위 층위에 있다.

제도의 언어로 옮기면 망각은 세 가지 권한의 설계로 구체화된다. 첫째는 만료의 권한이다. 어떤 기록이 얼마 뒤에 자동으로 전제의 자리에서 내려오는지를 정하고, 그 기본값을 영구 보존에서 한시 보존으로 옮긴다. 결정 로그는 감사에 필요한 기간 동안 남기고 대화의 서사적 세부는 짧은 주기로 만료시키는 식으로, 보존 기간 자체가 기록의 종류에 따라 갈라져야 한다. 둘째는 철회의 권한이다. 사용자가 특정 기록을 현재의 자기 서사에서 분리해 달라고 요구할 때, 그 요구가 도달할 창구와 이행 정도를 확인할 통지를 둔다. AI의 기록과 인류의 망각이 보였듯 삭제의 이행은 처리 완료 통지에서 곧바로 끝나기 어려우므로, 철회의 권한에는 삭제 방식과 잔여 위험의 공개가 함께 묶여야 한다. 셋째는 항소의 권한이다. 한쪽은 책임을 위해 남기라 하고 다른 쪽은 서사를 위해 지우라 할 때, 그 충돌을 판정하고 이의를 제기할 절차를 둔다. EU 일반개인정보보호규정 제17조가 일정 요건 아래 삭제를 요구할 권리를 둔 것은, 이 충돌이 개인 선의의 영역을 떠나 제도적 판정 영역에 속함을 보여준다. 법이 삭제를 권리로 명시하더라도 그 이행에는 방식과 범위와 검증이 따라붙으며, 항소의 권한은 바로 그 이행을 다툴 자리를 연다. 세 권한은 함께 작동한다. 만료가 기본값을 정하고, 철회가 예외를 열며, 항소가 둘 사이의 다툼을 받는다.

이렇게 설계된 망각은 책임 기록을 더 선명하게 만든다. 책임의 기록과 서사의 기록을 분리해, 전자를 통제된 절차 안에 보전하고 후자를 사용자에게 돌려준다. 무엇을 잊을지 정하는 권한이 명시되고 그 행사가 절차로 묶일 때, 잊음은 결함에서 책임의 한 형식으로 이동한다.

잊을 줄 아는 에이전트의 조건

에이전트가 무엇을 잊어야 하는가라는 물음은 결국 권한과 절차에 대한 물음이다. 기억이 외부 절차가 승인한 상태 효과인 한, 망각은 그 승인을 거두는 또 하나의 작성 행위이며, 작성에는 언제나 기준과 권한과 책임이 따라붙는다. 잊을 줄 아는 에이전트는 무엇을 결정 경위로 보전하고 무엇을 사용자의 서사로 돌려줄지를 분리해 다루도록 설계된 에이전트다. 책임을 위한 기록은 통제된 기간과 접근 권한 아래 더 분명하게 남기고, 사용자의 과거는 만료와 철회와 항소의 권한 아래 다시 쓸 수 있게 열어 둘 때, 에이전트의 기억은 비로소 신뢰할 수 있는 상태가 된다. 좋은 에이전트의 조건에는 무엇을 언제 어떤 권한으로 잊을지를 명시한 설계가 포함된다.

이어 읽기

• 기억은 어떻게 승인되는가 — 이 글이 출발점으로 삼은 전제, 곧 에이전트의 기억이 외부 절차가 승인한 상태 효과라는 분석을 정면으로 전개한다. 망각을 승인의 철회로 읽기 위해 먼저 읽어 둘 글이다.
• 망각권은 무엇을 지키는가 — 망각을 데이터 삭제와 자기 과거를 다시 배열할 서사적 자기결정권의 문제로 확장한다. 이 글이 말하는 사용자 측 권한이 어디에 뿌리내리는지 보여준다.
• 기록은 어떻게 책임이 되는가 — 기록 밖의 결정에는 책임을 묻기 어렵다는 요구를 자동화된 폭력의 장면에서 다룬다. 이 글이 통과시켜야 했던 가장 강한 반론의 출처다.

작성 정보

초안 작성: Claude CoWork · Claude Opus 4.8 · Max Adaptive Thinking
검토·개고: ChatGPT · GPT-5.5 Extended Thinking

참고자료

• EU General Data Protection Regulation, Article 17, Right to erasure.
• A. Feder Cooper et al., "Machine Unlearning Doesn't Do What You Think: Lessons for Generative AI Policy and Research," arXiv:2412.06966, 2024; revised 2025.

인포그래픽

작성일: 2026년 6월 11일