추론 모델Reasoning Model · 생각하는 모델
답하기 전에 속으로 단계를 밟아 따져 보는 시간을 갖도록 길러진 LLM이에요. 수학·코딩·복잡한 문제에 강해요.
쉽게 말하면
어려운 수학 문제를 받으면 바로 답을 외치기보다, 연습장에 풀이를 적어 가며 생각하죠.
추론 모델은 답을 쓰기 전에 이런 '연습장 풀이'를 먼저 해요. 그래서 답이 늦게 나오지만 더 정확해요.
연습장에 쓴 생각도 토큰이라서, 시간과 비용이 더 들어요.
그림으로 정리하면
바로 답하기 vs 먼저 생각하기
일반 모델
- 바로 답을 써요
- 빠르고 싸요
- 요약, 번역, 초안
추론 모델
- 속으로 풀이를 먼저 써요
- 느리고 비싸요
- 수학, 코딩, 복잡한 분석
추론 모델이 답하는 길
질문어려운 문제
생각단계별 풀이 · 점검
답정리된 결론
생각하는 부분도 토큰으로 세요.
실제로는
- 문제를 맞히면 점수를 받는 강화학습으로 '오래 생각하는 습관'을 길러요.
- OpenAI의 o 시리즈, Claude의 확장 사고(extended thinking) 같은 기능이 이런 방식이에요.
- 생각하는 양(노력 수준)을 정할 수 있는 서비스도 있어요.
왜 알아야 하나요
모든 일에 추론 모델이 좋은 건 아니에요. 간단한 요약·번역은 빠른 일반 모델로, 단계가 많은 분석·계산은 추론 모델로 골라 쓰면 시간과 비용을 아껴요.
헷갈리기 쉬운 것
- 오래 생각해도 틀릴 수 있어요. 특히 원문이 없는 사실 질문은 여전히 환각이 생겨요.
- 여기서 '추론'은 생각하기(reasoning)예요. 모델을 돌리는 추론(inference)과 다른 뜻이에요.