컨텍스트 윈도우Context Window · 맥락 창
AI가 한 번에 보고 기억할 수 있는 글의 최대 길이예요. 토큰 수로 재요.
쉽게 말하면
책상 크기를 떠올려 보세요. 책상이 크면 자료를 많이 펼쳐 놓고 볼 수 있지만, 넘치면 오래된 종이부터 떨어져요.
컨텍스트 윈도우는 AI의 책상 크기예요. 질문, 붙인 문서, 지금까지의 대화가 모두 이 책상 위에 올라가요.
대화가 길어져 책상이 꽉 차면, 앞부분을 잊거나 요약해서 자리를 만들어요.
그림으로 정리하면
책상 위에 올라가는 것들
컨텍스트 윈도우 · 책상 전체이 안에 다 들어가야 해요
지시 · 붙인 문서 · 대화 기록길어질수록 책상이 차요
이번 질문과 답남은 자리에서 써요
책상이 차는 정도
짧은 질문 하나아주 조금
보고서 파일 몇 개꽤 차요
하루 종일 이어진 대화거의 꽉
대략적인 비교예요. 모델마다 책상 크기가 달라요.
실제로는
- 입력(질문·문서·대화 기록)과 출력(답)이 모두 이 창 안에 들어가야 해요.
- 요즘 모델은 수십만 토큰 이상을 한 번에 받는 경우가 많아요. 그래도 길수록 느리고 비싸요.
- 창이 커도 긴 글 한가운데 내용은 놓치기 쉬워요. 중요한 건 앞이나 끝에 두면 좋아요.
왜 알아야 하나요
긴 대화에서 AI가 처음 한 약속을 잊는 이유, 새 대화를 시작하면 결과가 좋아지는 이유예요.
헷갈리기 쉬운 것
- 컨텍스트 윈도우는 '장기 기억'이 아니에요. 대화가 끝나면 비워져요.
- 넣을 수 있다고 다 넣으면 오히려 답이 흐려질 수 있어요. 필요한 것만 골라 넣기(컨텍스트 엔지니어링)가 중요해요.