2편: 챗GPT 대화창 분리의 기술: 왜 하나의 창에서 계속 쓰면 바보가 될까?

## 늘 제자리걸음인 AI 대화, 문제는 '명령어'에 있다

챗GPT나 클로드 같은 AI 툴을 몇 주 동안 깊게 쓰다 보면 희한한 경험을 하게 됩니다. 분명 처음에는 마케팅 문구도 기가 막히게 뽑아내고, 보고서 초안도 깔끔하게 정리해 주던 똑똑한 AI 비서였는데, 어느 순간부터 질문의 핵심을 놓치고 엉뚱한 소리를 하거나 방금 전 기획했던 내용을 까먹기 시작합니다.

"얘가 벌써 지쳤나?" 혹은 "서버가 불안정한가?" 하고 생각하셨다면 오해입니다. 이 현상의 주범은 바로 여러분이 수일, 혹은 수주일 동안 하나의 대화창(Chat Thread)을 붙잡고 모든 업무를 물어봤기 때문입니다. AI에게는 '컨텍스트 윈도우(Context Window)'라는 기억력의 한계가 존재합니다. 하나의 창에서 대화가 길어지면 AI는 과거에 했던 대화를 잊어버리거나, 앞에 쌓인 수많은 데이터와 현재 질문을 혼동하여 점차 '바보'처럼 변하게 됩니다. 제가 실무에서 시행착오를 겪으며 터득한 '대화창 분리의 기술'을 알면 AI의 업무 효율을 늘 최상으로 유지할 수 있습니다.

## AI의 뇌를 맑게 유지하는 대화창 관리 법칙 3가지

AI의 기억력 한계를 극복하고 언제나 날카로운 답변을 얻으려면 대화창을 철저하게 목적별로 쪼개서 관리해야 합니다. 복잡해 보이지만 다음 3가지 원칙만 기억하면 간단합니다.

1) 프로젝트별 '1프로젝트 1창' 원칙

하나의 대화창에는 오직 하나의 프로젝트 관련 이야기만 나누어야 합니다. 예를 들어 'A사 인스타그램 광고 카피 제작'이라는 창을 만들었다면, 그 창에서는 인스타그램 카피와 관련된 대화만 이어가야 합니다. 도중에 "참고로 다음 주 회사 워크숍 장소 추천해 줘" 같은 뜬금없는 질문을 던지는 순간, AI의 내부 메모리는 오염되기 시작합니다. 워크숍 장소는 완전히 새로운 창을 열어서 질문하는 것이 좋습니다.

2) 페르소나(역할)의 충돌 방지하기

1편에서 AI에게 역할을 부여하는 것이 중요하다고 말씀드렸습니다. 만약 한 대화창에서 "너는 냉철한 재무 분석가야"라고 했다가, 몇 마디 뒤에 "이제부터 너는 감성적인 카피라이터야"라고 역할을 바꾸면 AI는 이전 역할의 데이터와 새 역할의 언어 모델 사이에서 갈팡질팡하게 됩니다. 냉철한 분석 데이터가 필요한 업무와 감성적인 마케팅 업무는 대화창 자체를 분리하여 각각의 페르소나를 독립적으로 유지해 주어야 답변의 품질이 떨어지지 않습니다.

3) 정기적인 대화창 '리셋(Reset)'과 아카이빙

하나의 프로젝트라 하더라도 대화가 수십 페이지 이상 길어지면 AI의 반응 속도가 느려지거나 과거 설정을 깜빡합니다. 이럴 때는 과감하게 새 창을 열어야 합니다. 새 창을 열 때 기존 창에서 얻어낸 핵심 요약본이나 결정된 기획안을 복사하여 "앞선 대화에서 이런 결론이 났어. 이 맥락을 이어받아서 다음 단계(예: 실행 계획 수립)를 진행하자"라고 입력하는 방식입니다. 이를 '컨텍스트 이어받기'라고 부르며, AI의 기억력을 초기화하면서도 업무의 연속성을 유지하는 가장 세련된 방법입니다.

## 실무 효율을 극대화하는 대화창 이름 지정 꿀팁

대화창을 분리하다 보면 나중에는 왼쪽 사이드바에 'New Chat'만 수십 개가 쌓여 정작 필요한 대화를 찾지 못하는 대참사가 일어납니다. AI가 자동으로 제목을 정해주기도 하지만 직관적이지 않을 때가 많습니다.

저는 대화창을 열자마자 [카테고리] 업무명 _ 페르소나 형태로 이름을 수정하는 습관을 들였습니다. 예컨대 [마케팅] 신제품 SNS 카피 _ 10년차카피라이터 나 [기획] 상반기 매출분석 _ 재무컨설턴트 처럼 적어두는 것입니다. 이렇게 규칙을 정해 관리하면 나중에 3개월 전 진행했던 프로젝트의 맥락을 다시 불러와서 추가 업무를 지시할 때도 길을 잃지 않고 단 5초 만에 찾아낼 수 있습니다.

## 핵심 요약

AI는 하나의 대화창이 너무 길어지면 메모리 한계로 인해 답변의 품질이 급격히 떨어집니다.
주제가 바뀌거나 다른 역할(페르소나)이 필요할 때는 반드시 새로운 대화창을 개설해야 합니다.
대화가 너무 길어졌을 때는 핵심 내용만 요약하여 새 창으로 컨텍스트를 이전하는 리셋 과정이 필요합니다.

[다음 편 예고]

다음 3편에서는 글로벌 업무나 자료 조사에서 절대 빠질 수 없는 'AI 번역기 활용법'을 다룹니다. 우리가 흔히 쓰는 네이버 파파고, 구글 번역, 그리고 최근 직장인들 사이에서 혁신이라 불리는 DeepL(딥엘)의 숨겨진 알고리즘 차이와 상황별 선택 기준을 명쾌하게 비교해 드리겠습니다.

[함께 이야기 나눠요]

혹시 여러분도 하나의 대화창에서 이것저것 물어보다가 AI가 앞 내용을 까먹어 답답했던 경험이 있으신가요? 여러분은 보통 몇 개의 대화창을 동시에 띄워놓고 일하시는지 댓글로 경험을 들려주세요!