AI는 왜 어제 일을 잊을까요

어느 날 저는 두 시간 가까이 AI와 한 가지 일을 붙들고 방향까지 잡아 두었습니다. 다음 날 아침 새 대화창을 열고 “어제 잡은 그 방향으로 이어서 해 줘”라고 적었더니, 어떤 방향을 말하는 것인지 되물어 왔습니다. 저는 고장인 줄 알았습니다. 고장이 아니었습니다. 이 신입에게는 사람이라면 겪지 않을 기억의 약점이 두 가지 있습니다.

창을 닫으면 그 안의 기억도 함께 닫힙니다

같은 대화창 안에서는 앞의 이야기를 잘 기억합니다. 무조건 다 잊어버리는 것은 아닙니다. 문제는 그 창을 닫고 새 창을 여는 순간입니다. 새 창에서 만난 AI는 어제의 자기 자신을 모릅니다. 이름도 같고 능력도 같은데, 어제 우리가 정한 것만 기억에 없습니다. 요즘은 회사들이 이 약점을 메우려고 지난 대화를 기억하는 기능을 붙이기 시작했습니다만, AI 자체가 어제를 이어 가는 것은 아닙니다. 밖에서 기억을 챙겨 넣어 주는 것이지요.

사람은 자고 일어나도 어제 일을 기억합니다. 어제 만난 사람을 오늘 알아보고, 어제 잡은 방향대로 오늘 마저 나아갑니다. 이 친구에게는 그 ‘어제’가 없습니다. 새 창에서 이 친구가 아는 것은 지금 그 창 안에 적힌 글자뿐입니다. 어제 함께 보낸 두 시간은 어제의 창 안에서만 살아 있었습니다.

회사로 옮겨 놓으면 이런 직원입니다. 매일 아침 출근하는데 어제 무슨 회의를 했는지, 무슨 결정을 내렸는지를 모릅니다. 능력은 어제 그대로인데 배경 설명은 매일 처음부터 다시 해 줘야 합니다.

그릇이 차면 담아 둔 것이 흐려집니다

그러면 창을 닫지 말고 같은 창에서 계속 이어 가면 되겠다는 생각이 드실 겁니다. 그런데 그것도 오래가지 못합니다. 두 번째 약점 때문입니다.

AI가 한 번에 머릿속에 담아 두는 양은 처음부터 정해져 있습니다. 이 가이드에서는 그것을 기억 그릇이라고 부릅니다. 그릇의 크기는 어떤 AI를 쓰느냐에 따라 다르고 해마다 커집니다. 지금 쓰는 것은 한국어 책 여러 권 분량을 한 번에 담습니다. 적은 양은 아닙니다.

문제는 그릇이 차오를수록 결과가 나빠진다는 것입니다. 거의 찰 무렵이면 담아 둔 것이 하나씩 희미해집니다. 특히 대화 한복판에 끼어 있던 내용이 잘 빠집니다. 맨 처음과 맨 끝은 그래도 붙들고 있습니다.

더 성가신 점이 따로 있습니다. 사람은 힘에 벅차면 벅찬 줄을 압니다. 그래서 미리 “이건 제가 다 못 챙깁니다”라고 말해 줍니다. AI는 그릇이 찬 줄을 스스로 알려 주지 않습니다. 한복판을 빠뜨려 놓고도 다 봤다고 여기며 일을 계속 이어 갑니다.

두 약점은 따로 오지 않고 맞물립니다. 창을 새로 열면 어제가 사라지고, 열지 않고 버티면 그릇이 찹니다. 어느 쪽으로 가도 대화 안에만 있던 것은 언젠가 없어집니다. 남겨야 할 것은 파일에 따로 옮겨 적으라고 사람이 시켜야 합니다.

사장에게는 두 가지 손해가 생깁니다

• 어제 정한 것을 오늘 다시 정하게 됩니다. 같은 배경을 어제도 적고 오늘도 적습니다. 저는 한동안 일을 시키기 전에 매번 어제 이야기를 길게 옮겨 적느라 진을 뺐습니다.
• 긴 일을 통째로 맡기면 중간이 어긋납니다. 일하는 절차를 적어 주면 짧을 때는 곧잘 따르다가, 글이 길어지면 가운데 단계를 슬그머니 빼먹습니다. 세 시간을 들여 함께 다듬은 결론이 마지막 요약에서 맨 처음의 엉뚱한 이야기로 되돌아간 적도 있습니다. 맨 앞의 목적과 맨 뒤의 마감은 지켰는데 가운데 조건 하나가 빠진 결과물이 돌아옵니다.

한동안 저는 이 친구가 성의 없이 일한다고 여겼습니다. 어제 정한 것을 오늘 모른 척하고, 길게 적어 준 절차를 가운데서 빼먹으니 그렇게 보였습니다. 사람 신입이 그러면 성의 문제가 맞습니다. 이 신입은 사람과 다른 방식으로 만들어져서, 사람의 상식으로 기대하면 번번이 어긋납니다. 약점을 알면 미리 대비할 수 있고, 모르면 저처럼 엉뚱한 데 화를 내게 됩니다. 화를 낸다고 달라지는 것은 없습니다. 회사가 장치를 두어 메우면 됩니다.

그래서 생겨난 장치 세 가지

클로드 코드의 기능 가운데 상당수는 이 두 약점을 메우려고 만들어졌습니다. 각각 어떻게 쓰는지는 아래 링크한 페이지에 있습니다.

• 운영 헌법(CLAUDE.md) — 대화가 시작될 때 클로드가 가장 먼저 읽는 회사의 업무 매뉴얼입니다. 어제 정한 규칙을 여기에 적어 두면 새 창을 열어도 그 규칙만은 알고 출근합니다. 자세한 것은 「CLAUDE.md와 메모리」 페이지에, 처음 만드는 절차는 따라 하기 2편에 있습니다.
• 자동 메모리와 회사의 두뇌 — 사람이 적어 주는 규칙 말고, 클로드가 일하며 알게 된 것을 스스로 파일에 쌓아 두는 곳입니다. 함께 일할수록 우리 회사 사정에 밝아집니다. 만드는 법은 따라 하기 4편 — 회사의 두뇌에 있습니다.
• 기억 그릇 관리 — 그릇이 얼마나 찼는지 보고, 지금까지의 대화를 요약해 비우고, 아예 새로 시작하는 명령입니다. 「맥락 관리」 페이지에서 다룹니다.

어제 하던 대화를 그대로 다시 여는 방법도 있습니다(세션 이어가기). 다만 다시 연 대화는 그때까지 담긴 내용을 함께 물려받습니다. 어제 대화가 길었다면 다시 열자마자 그릇이 그만큼 차 있습니다.

일을 쪼개는 것도 같은 약점을 메우는 방법입니다. 큰 일을 한 명에게 통째로 안기면 그 일이 그릇을 넘는 순간부터 앞에서 쌓은 것이 무너집니다. 자료를 많이 읽어야 하는 조사 같은 일은 서브에이전트(직원)에게 떼어 맡기고 요약만 받으면, 지금 대화의 그릇은 넉넉하게 남습니다. 회사가 일을 나누어 맡기는 이유와 같습니다.

기억은 회사가 대신 갖습니다

사람 회사도 같은 문제를 오래전부터 겪었습니다. 담당자가 바뀌어도 일이 이어지도록 회사는 인수인계서를 쓰고 규정집을 둡니다. 한 사람의 기억에 기대는 대신 회사에 기록을 남기는 방식입니다. AI 직원을 두면 이 방식을 건너뛸 수 없습니다. 이 직원들은 매일 새로 출근하기 때문입니다.

그래서 AI로 회사를 운영하는 일은 문서를 갖추는 일에서 시작합니다. 규칙을 적어 두면 매일 새로 출근한 직원이 그 규칙을 읽고 일을 시작합니다. 겪어서 알게 된 것을 쌓아 두면 다음 직원이 그 위에서 출발합니다. 무엇을 어떤 순서로 갖추는지는 책 8장에서 다루고, 그 장에 딸린 사용법은 가이드 8장 페이지에 모여 있습니다.

책 5장은 이 두 가지를 포함해 AI 신입의 약점 다섯 가지를 다룹니다. 나머지 셋도 사람 신입에게서는 보기 어려운 것들입니다. 다음 페이지에서는 그중 하나, 이 인재가 왜 모르는 것을 모른다고 말하지 못하는지를 봅니다.