대화 한도에 닿았을 때 작업이 끊기지 않는 이유

작업이 길어지면 "대화 한도에 닿았습니다"를 만나는 서비스가 많습니다. 그러면 새 대화를 열고, 앞에서 무엇을 했는지 다시 설명해야 합니다. 이 서비스는 그 지점에서 스스로 기록을 남기고 이어서 계속합니다.

왜 한도가 생기는가

AI 모델이 한 번에 다룰 수 있는 총량이 정해져 있습니다. 이 서비스가 쓰는 모델은 131,072 토큰이고, 한국어로 대략 15만 자입니다.

에이전트 작업은 이 총량을 빠르게 씁니다. 파일을 읽을 때마다 그 내용이 대화에 쌓이기 때문입니다. 파일 몇 개를 읽고 고치는 것만으로도 수만 자가 됩니다. 그래서 "질문 두세 번에 한도" 라는 경험이 나옵니다.

두 단계로 비운다

한도에 닿기 전에 두 가지가 순서대로 일어납니다.

1단계: 오래된 도구 결과를 접는다

파일을 읽은 결과, 검색 결과 같은 것을 요약 한 줄로 접습니다. 최근 몇 개는 그대로 두고 오래된 것부터 접습니다.

이건 비용이 들지 않습니다. 이미 판단에 반영된 내용을 계속 들고 있을 이유가 없기 때문입니다. 다시 필요하면 그 파일을 한 번 더 읽으면 됩니다.

2단계: 기록을 남기고 이어받는다

접는 것으로도 부족하면, 지금까지의 작업을 작업 폴더의 .observa/ 안에 마크다운 파일로 저장합니다. 그리고 인수인계 요약만 들고 새로 시작합니다.

.observa/session-20260823-091530.md

이 파일에는 목표, 한 일(바꾼 파일 목록), 알아낸 사실, 남은 일, 주의점이 들어갑니다. 사용자가 아무것도 하지 않아도 자동으로 진행됩니다. 화면에는 이렇게 표시됩니다.

· 창이 거의 찼습니다. 기록을 남기고 이어서 시작합니다…
● 기록 저장 .observa/session-20260823-091530.md
· 대화를 이어받았습니다.

무엇이 남고 무엇이 사라지는가

남는 것 — 목표, 어떤 파일을 왜 고쳤는지, 알아낸 사실, 남은 할 일. 그리고 진행 중인 지시는 원문 그대로 넘어갑니다.

사라지는 것 — 파일 내용 전문, 도구 결과 원본, 주고받은 문장 그대로의 기록. 이것들은 .observa/ 파일에 남아 있으니 필요하면 에이전트가 그 파일을 읽습니다.

전문을 새 대화에 그대로 실으면 창을 비운 의미가 없습니다. 요약만 들고 가는 것이 이 방식의 핵심입니다.

사용자가 알아 두면 좋은 것

• 작업 폴더에 .observa 폴더가 생깁니다. 지워도 되고, 나중에 읽어도 됩니다. 에이전트가 폴더를 훑을 때 이 폴더는 제외되므로 다음 작업을 방해하지 않습니다.
• 버전 관리를 쓰신다면 .gitignore 에 .observa/ 를 넣어 두는 편이 깔끔합니다.
• 이어받은 직후에는 에이전트가 파일을 다시 읽을 수 있습니다. 전문을 버렸으니 정상 동작입니다.
• 주제가 완전히 바뀔 때는 이어받기를 기다리지 말고 직접 대화를 비우는 편이 낫습니다. 앞 작업 맥락이 방해가 되지 않습니다.

그래도 한 가지는 사람 몫이다

이어받기는 맥락을 지키지만 판단을 지키지는 못합니다. 요약은 요약이라, 미묘한 결정("이 방식은 성능 때문에 일부러 피했다" 같은 것)은 흐려질 수 있습니다.

긴 작업에서 중요한 전제가 있다면, 이어받은 뒤에 한 줄로 다시 알려 주세요. 한 줄이면 충분합니다.

정리

• 한도는 모델의 물리적 한계이고 없앨 수 없다. 다루는 방식으로 넘어간다.
• 오래된 도구 결과를 접고, 그래도 넘치면 기록을 남기고 요약만 들고 이어간다.
• 전문은 .observa/ 에 남는다. 필요하면 다시 읽는다.
• 중요한 전제는 이어받은 뒤 한 번 다시 말해 주는 편이 안전하다.