AI가 타고난 다섯 가지 약점
한동안 저는 이 인재에게 화를 내며 지냈습니다. 어느 날 화가 난 일들을 종이에 하나씩 적어 보았더니, 열댓 가지처럼 보이던 사고가 결국 다섯 가지로 모였습니다. 그 다섯을 한자리에 놓고 나서야 제가 무엇을 잘못 기대했는지 보였습니다. 저는 사람 신입에게 하듯 일을 던지고 있었습니다.
이 가이드는 클로드 코드를 기준으로 씁니다. 그런데 여기 적는 다섯 가지 약점은 클로드만의 것이 아닙니다. 챗GPT·제미나이 같은 다른 AI도 이름과 화면이 다를 뿐 같은 약점을 안고 있고, 그래서 비슷한 장치를 하나씩 갖춰 가고 있습니다. 「AI라는 천재 신입」에서 보시는 원리는 어느 도구를 쓰시든 그대로 가져가실 수 있습니다. 다만 따라 하기와 기능 사전에 나오는 조작은 클로드 코드 기준입니다.
다섯 가지를 한 표에
| 약점 | 겪게 되는 일 | 자세히 |
|---|---|---|
| ① 매일 아침 어제를 잊고 출근합니다 | 겪게 되는 일따로 챙겨 넣어 주지 않으면, 대화창을 닫는 순간 그 안의 합의도 함께 닫힙니다. 새 창에서 만난 AI는 어제의 자기를 모릅니다. | 자세히어제를 잊는 이유 |
| ② 한 번에 기억할 수 있는 양이 적습니다 | 겪게 되는 일한 대화에 담아 두는 분량이 정해져 있습니다. 차오를수록 가운데 것부터 흐려집니다. | 자세히기억 그릇 |
| ③ 자기가 한 일을 스스로 판단하지 못합니다 | 겪게 되는 일남의 글은 날카롭게 보면서 제 결과물의 빈 곳은 잘 놓칩니다. 70퍼센트쯤 해 놓고 다 됐다고 보고하곤 합니다. | 자세히스스로 판단하지 못합니다 |
| ④ 모른다고 말하지 못합니다 | 겪게 되는 일모르는 곳을 그럴듯한 말로 채울 때가 있습니다. 아는 답과 지어낸 답의 말투가 비슷해서 가려내기 어렵습니다. | 자세히태연히 틀리는 이유 |
| ⑤ 무엇이 중요하고 위험한지 가리지 못합니다 | 겪게 되는 일중요한 일과 사소한 일을 같은 무게로 해치우곤 합니다. 스스로 멈춰 묻는 일은 드뭅니다. 미리 정해 둔 대로 허락을 구하는 경우는 별개입니다. | 자세히위험을 가리지 못합니다 |
다섯은 따로 오지 않고 서로를 키웁니다. ③ 때문에 잘못한 줄을 모르고, ④ 때문에 그 결과를 당당하게 보고합니다. 그 보고가 그럴듯하니 사장도 그런가 보다 하고 넘어갑니다. ⑤가 여기에 얹히면 사고가 큰일로 번집니다.
다섯 가지 약점에는 공통점이 있습니다. 사람 신입이라면 어딘가에서 신호를 줍니다. 일이 벅차면 벅차다고 말하고, 헷갈리면 말끝이 흐려지고, 지우면 안 될 자료 앞에서는 멈춰 묻습니다. 이 인재에게는 그 신호가 없습니다. 잘된 일과 잘못된 일이 똑같은 말투로 돌아옵니다. 그러니 사장이 신호를 기다려서는 안 되고, 확인 단계를 미리 만들어 두어야 합니다.
특정 제품의 흠이 아닙니다
다섯 가지는 제가 쓰던 AI 하나의 문제가 아닙니다. 지금의 AI 기술이 공통으로 안고 있는 약점입니다. 증거가 있습니다. 서로 다른 회사들이 약속이나 한 듯 비슷한 보완 도구를 내놓았습니다. 이름은 제각각인데 하는 일이 닮았습니다. 한 회사만 그랬다면 그 제품의 문제겠지만, 여러 회사가 하나같이 그랬다면 이 기술이 타고난 성질입니다. 다시 말해, 이 다섯 약점을 다룰 줄 알면 어느 AI를 쓰든 통합니다.
고쳐 없애는 것이 아닙니다
저는 처음에 이 약점들을 없애 보려고 애썼습니다. 더 좋은 질문을 궁리하고, 더 비싼 등급으로 올려도 보았습니다. 조금 나아질 뿐 없어지지는 않았습니다. 그 뒤에 방향을 바꿨습니다. 없애는 대신, 약점 둘레에 알맞은 장치를 두어 사고로 번지지 않게 막기로 했습니다.
기대를 바꾸는 것이 첫 단추였습니다. 다섯을 알고 나면 같은 사고가 또 나도 화가 나지 않습니다. 다섯 중 어디가 뚫렸는지가 보이고, 그곳에 무엇을 대야 하는지가 따라 나옵니다.
사람 회사가 오래 해 온 방식이 이것입니다. 사람도 잊고, 제 일에 후하고, 급하면 확인을 건너뜁니다. 회사는 그 성격을 고쳐 놓으려 들지 않습니다. 대신 인수인계서를 남기고, 결재선을 긋고, 만든 사람 말고 다른 사람이 검사하게 합니다. AI 직원에게도 같은 방식이 필요합니다. 다만 약점이 사람보다 심해서, 사람 회사보다 장치를 더 분명하게 갖춰야 합니다.
그러면 장치는 몇 개일까요
「AI라는 천재 신입」에서는 이 인재가 어떻게 만들어졌고 무엇을 못 하는지를 보았습니다. 이제 남은 물음은 두어야 할 장치가 몇 개이고, 왜 하필 그것들이냐는 것입니다.
다섯 가지 약점에는 각각 대응하는 조각(장치)이 있습니다. 잊는 곳에는 기록이 붙고, 제 일을 못 보는 곳에는 검사하는 다른 직원이 붙습니다. 조각 하나하나는 단순한데, 맞물려 돌아가기 시작하면 그것이 한 회사가 됩니다.
다음에 할 일은 두 가지입니다. 직접 따라 해 보시려면 따라 하기 0편부터 시작하십시오. 이 다섯 약점이 어떤 장치를 불러왔는지 지도를 먼저 보시려면 「왜 하필 조각이 일곱 개일까요」 페이지로 가십시오.