LLM의 상태 없음과 기억의 외재화 — 상태 승인과 책임의 분화

LLM의 기억은 내면에 보존된 지속적 자아의 흔적이 아니라, 외부 기록·검색·요약·갱신 절차가 매 순간 만들어내는 상태 효과다. 대화가 이어지는 동안 무언가가 기억되는 것처럼 보이지만, 그 연속성은 모델 안에 쌓이는 것이 아니라 모델 바깥에서 매번 다시 구성된다. 이 사실을 출발점으로 삼으면 에이전트 메모리의 핵심 질문이 바뀐다. 문제는 기계가 무엇을 기억하는가가 아니라, 어떤 기록을 상태로 승인하고 어떤 갱신을 책임 있는 기억으로 간주할 것인가다. 기억이 절차의 산물인 한, 그 절차를 누가 어떤 기준으로 운영하는가가 곧 기억의 내용과 신뢰성을 결정한다.

상태 없음: LLM은 호출 사이에 자기를 보존하지 않는다

상태(state)를 작동적으로 정의하면, 한 시점의 처리 결과가 다음 시점의 처리에 자동으로 이월되어 영향을 주는 내부 보존분이다. 이 정의에 따르면 LLM 자체는 상태를 갖지 않는다. 모델은 입력 시퀀스를 받아 출력 분포를 내놓는 함수에 가깝고, 한 번의 호출이 끝나면 그 호출에서 발생한 어떤 것도 다음 호출로 넘어가지 않는다. 모델은 직전 대화를 떠올리지 않는다. 직전 대화의 텍스트가 입력에 다시 포함되어 모델 앞에 재상연될 뿐이다.

대화에 연속성이 생기는 이유는 모델이 기억하기 때문이 아니라, 맥락 창(context window)이라는 입력 영역에 이전 발화가 누적되어 매 턴 다시 제시되기 때문이다. 사용자가 느끼는 "AI가 기억한다"는 감각은, 모델 바깥의 어떤 장치가 텍스트를 보관했다가 다시 읽히는 데서 나오는 효과다. 상태는 모델에 있지 않고 모델을 둘러싼 절차에 있다. 정확히 말하면 LLM은 상태가 없고, 대화에만 상태가 있다.

외재화된 기억: 기억은 저장된 흔적이 아니라 절차의 산물이다

맥락 창은 유한하다. 대화가 그 한계를 넘거나 세션이 바뀌면, 연속성을 유지하려는 시스템은 기억을 바깥으로 내보낸다. 이전 내용은 텍스트나 벡터로 저장되고, 필요할 때 검색되어 다시 입력으로 주입되며, 길어지면 요약되어 압축된다. 기억의 제도화가 세션 리셋에서 검색 증강(RAG)을 거쳐 에이전트 메모리 계층으로 이어지는 계보로 추적한 것이 이 외재화의 역사다. 그 계보가 조직 차원에서 "누가 기억을 통제하는가"의 문제로 수렴했다면, 여기서 먼저 분명히 해 둘 것은 그보다 앞선 존재론적 사실이다. 외부 저장소와 검색 파이프라인을 걷어내면 그 자체로 기억인 내적 보존분이 따로 남지 않는다. 기억은 곧 그 파이프라인이다.

이렇게 보면 기억은 세 가지 선택적 절차의 합성물이다. 무엇을 기록할 것인가, 무엇을 검색해 다시 불러올 것인가, 무엇을 요약해 남길 것인가. 세 절차는 모두 선택이고, 선택이 일어나는 곳마다 질문이 숨는다. 기록은 발화의 일부만 남기고 나머지를 버린다. 검색은 저장된 것 가운데 일부만 현재의 맥락으로 끌어올린다. 요약은 원문을 압축하면서 무엇이 중요한지를 미리 판정한다. 기계가 기억하는 내용은 이 세 판정의 결과이지, 어딘가에 온전히 보관된 과거의 재생이 아니다.

명시적 상태 갱신: 무엇을 상태로 승인할 것인가

에이전트 시스템에서 기억은 암묵적으로 쌓이는 것이 아니라 명시적으로 기록되는 연산이다. 어떤 정보를 장기 저장소에 쓸 것인지, 무엇을 일시적 맥락에 두었다가 폐기할 것인지, 무엇을 요약해 지속시킬 것인지가 별도의 결정으로 수행된다. 상태는 주어지지 않고 작성된다. 일시적 맥락에 머물던 정보를 지속적 상태로 끌어올리는 이 쓰기 연산이 곧 승인이다. 어떤 기록은 승인되어 다음 대화의 전제가 되고, 다른 기록은 승인되지 않아 흔적 없이 사라진다.

인간의 기억과의 차이는 내적 저장소의 유무에 있지 않다. 차이는 승인의 위치에 있다. 인간은 매 기억을 별도의 쓰기 명령으로 승인하지 않는다. 망각조차 능동적 재구성이며, 그 재구성은 살아 있는 주체가 수행한다. 에이전트에서는 쓰기 연산 자체가 승인이고, 그 승인을 수행하는 주체는 모델의 연속적 자기가 아니라 모델 바깥의 설계와 정책이다. "무엇을 상태로 승인할 것인가"라는 질문은 이 지점에서 기술의 물음이면서 동시에 통치의 물음이 된다. 기억이 작성되는 행위인 한, 그 작성에는 기준과 권한과 책임이 따라붙는다.

그래서 "기계가 무엇을 기억하는가"라는 물음은 이미 한 가지를 잘못 전제한다. 그 물음은 보관소를 가진 주체를 상정한다. 상태 없는 기계에는 그런 주체가 없다. 정확한 물음은 어떤 기록이 상태로 승인되고, 어떤 갱신이 책임 있는 기억으로 간주되는가다. 이 물음에 답하려면 책임을 하나로 뭉뚱그리지 말고 갈래로 나누어야 한다.

책임의 분화: 설명·판단·설계

기억이 승인되고 갱신되는 작성 행위라면, 그 기억에 대한 책임은 단일하지 않다. 최소한 세 갈래로 나뉜다.

설명 책임은 왜 이 기억이 지금 호출되었는지를 해명할 책임이다. 검색 증강 구조와 에이전트 메모리에서 호출은 불투명하게 일어난다. 사용자는 "기억에 근거한" 응답을 받지만 어떤 기록이 어떤 이유로 끌려 나왔는지는 보지 못한다. 설명 책임은 이 호출을 읽을 수 있게 만들 의무다. 어떤 항목이 어떤 가중치로 현재 응답을 떠받쳤는지, 그 경로의 감사 가능성(auditability)이 확보되는지가 여기에 걸린다. 다만 설명 책임은 개별 호출을 그때그때 읽을 수 있게 만드는 데 한정되고, 그 호출이 따르는 규칙 전체에 대한 책임은 뒤의 설계 책임으로 넘어간다. 호출의 근거가 보이지 않으면, 기억은 검증할 수 없는 권위가 된다.

판단 책임은 사용자가 그 기억을 근거로 자기 판단을 멈추는 순간에 발생한다. AI 시대의 책임 귀속 조건 변화는 행위자가 알고리즘의 제안을 자기 삶의 맥락 안에서 다시 전유하는 능력을 서사적 회수로 정의한다. 시스템이 "당신은 지난번에 이렇게 결정했다"고 상기시킬 때, 사용자가 그 상기를 회수 없이 그대로 수용하면 판단의 주체성은 기억의 호출에 위임된다. 판단 책임은 사용자의 몫이지만, 시스템이 기억을 어떻게 제시하느냐가 그 책임의 이행 가능성을 좌우한다. 호출이 결론처럼 제시될수록 회수는 어려워지고, 근거처럼 제시될수록 회수는 열린다.

설계 책임은 어떤 정보를 장기 상태로 보존하고 삭제하고 요약할지 정하는 책임이다. 만료 규칙, 쓰기 정책, 요약 기준이 여기에 속한다. 기억의 제도화가 지적하듯 특정 집단의 판단 패턴이 장기 기억을 통해 조직 전체의 기준으로 고착될 수 있고, 그 고착을 막는 것도 풀어 주는 것도 설계의 선택이다. 삭제 또한 단순하지 않다. 외부 저장소에서 한 항목을 지우면 그 항목은 더 이상 검색되지 않지만, 그것이 이미 다른 요약으로 접혀 들어갔거나 또 다른 상태를 갱신하는 데 쓰였다면 그 파생물은 남는다. 기록이 미세조정을 거쳐 모델 파라미터에 흡수된 경우에는, 데이터베이스 항목을 지우는 일과 그 영향을 거두는 일이 아예 다른 층위의 문제가 된다. 무엇을 어떤 범위까지 지웠는지, 그리고 지운 흔적의 파생이 어디까지 번졌는지를 검증하는 일 자체가 설계 책임의 일부다. 설계 책임은 승인의 구조 자체에 대한 메타 책임이다.

이 세 책임은 서로 환원되지 않는다. 기억의 오류를 모델 탓으로 돌리는 것은 범주 착오다. 책임지는 인격 없는 행위성이 정식화하듯 AI는 책임지는 인격이 아니라 책임 문제를 발생시키는 행위성이다. 그 기계에는 자기 기억을 책임질 자기가 없다. 설명 책임은 시스템의 가독성에, 판단 책임은 사용자의 재전유에, 설계 책임은 승인 구조의 거버넌스에 놓인다. 책임을 이렇게 분산해 배치할 때에만 "책임 있는 기억"이라는 표현이 빈말을 면한다.

반론: 인간의 기억도 외재화되어 있지 않은가

가장 강한 반론은 이렇게 말한다. 인간의 기억도 수첩과 사진과 제도와 언어로 외재화되어 있고, 회상 역시 매번 재구성된다. 집단기억 이론과 확장된 마음 논제가 보여주듯 기억은 본래 머릿속에 갇혀 있지 않다. 그렇다면 상태 효과라는 규정은 LLM을 인간과 구별해 주지 못하고, 그저 모든 기억의 일반적 성격을 서술할 뿐이다. 그 경우 책임의 분화도 AI에 고유한 문제가 아니게 된다.

이 반론은 진지하지만, 차이를 내적 저장소의 유무로 잡으려 할 때에만 무력하다. 결정적 차이는 저장소의 지속이 아니라 그 기록을 자기 것으로 통합하는 일인칭 관점의 유무다. 인간의 기억이 아무리 외부 매체에 흩어져 있어도, 흩어진 기록을 하나의 관점으로 엮어 내는 신체가 간격을 가로질러 지속한다. 체현된 서사로서의 자아가 자아 연속성을 기억 데이터의 보존이 아니라 기억·고통·신체·시간 감각이 엮인 체현된 서사의 지속으로 재정의한 것이 이 통합의 다른 이름이다. 에이전트에도 외부 저장소는 호출과 호출 사이에 남아 있다. 그러나 그 저장소는 기록이 머무는 장소일 뿐, 그 기록을 자기 기억으로 삼는 관점이 아니다. 저장소에는 그 기록들이 누구의 것인지를 묻는 일인칭이 없다. 그래서 승인은 시스템 자신에게 귀속될 수 없고, 바깥의 누군가가 수행해야 한다. 재정식화가 성립하는 이유가 이것이다. 승인이 기댈 주체가 없기 때문에, 승인의 주체와 절차를 명시하는 일을 피할 수 없다.

이 차이는 인격동일성 논의에도 한 가지 전제를 보탠다. 의식 업로드를 둘러싼 논쟁은 흔히 "기억 데이터"를 이전 가능한 소유물처럼 다룬다. 그러나 LLM의 사례가 보여주듯, 그 기억 데이터 자체가 기록·검색·요약·승인이라는 외부 절차의 산물이다. 옮겨질 수 있는 무언가를 가지고 있다는 그림 이전에, 무엇을 기억으로 승인할 것인가라는 절차의 문제가 먼저 놓여 있다.

상태 없는 기계에 기억을 부여한다는 것

에이전트 메모리를 설계하는 일은 무엇을 저장할지 정하는 기술 작업에 그치지 않는다. 그것은 어떤 기록이 상태로 승인되고 어떤 갱신이 책임 있는 기억이 되는지를 결정하는 제도 작업이다. 상태 없는 기계에 기억을 부여한다는 것은 보관소를 채우는 일이기 이전에 승인의 주체와 절차를 명시하는 일이다. 호출의 근거를 읽을 수 있게 하는 설명 책임, 호출을 다시 전유하게 하는 판단 책임, 승인의 구조 자체를 책임지는 설계 책임을 각자의 자리에 배치할 때, 비로소 그 기억은 신뢰할 수 있는 상태가 된다. 기계가 기억한다는 말은 그 자체로는 아무것도 보증하지 않는다. 보증은 무엇을 상태로 승인했는지, 그리고 그 승인을 누가 어떤 기준으로 설명하고 갱신하는지에서 나온다.

이어 읽기

• 업로드된 존재 — 인격동일성 연작 — 이 글이 기술적 전제를 보강하는 인격동일성 연작. 기억 데이터가 옮겨질 소유물이 아니라 승인된 절차의 산물이라는 전제를 시리즈 바깥에서 받친다.
• 자유의지 해체 이후의 책임 — 책임을 인과 내부의 규범 장치로 재구성하는 흐름. 이 글의 책임 분화가 그 위에서 더 정밀해진다.
• 인지 외주화와 판단 주체의 해체 — 판단을 시스템에 넘길 때 주체의 조건이 어떻게 재구성되는지를 다룬다. 판단 책임 논의의 확장 축이다.
• 디지털 사후와 인격의 경계 — 사후 디지털 인격이 발화·계약·상속의 주체처럼 작동할 때, 무엇을 그의 기억으로 승인할 것인가라는 물음으로 이어진다.

작성 정보

초안 작성: Claude · Claude Opus 4.8 · Max Adaptive Thinking
검토·개고: ChatGPT · GPT-5.5 Extended Thinking

인포그래픽

작성일: 2026년 6월 3일