온도Temperature
AI가 다음 말을 고를 때 얼마나 모험할지 정하는 설정값이에요. 낮으면 늘 비슷하게, 높으면 다양하게 써요.
쉽게 말하면
아이스크림 가게에서 늘 먹던 바닐라만 고르는 날(온도 낮음)이 있고, 처음 보는 맛을 골라 보는 날(온도 높음)이 있어요.
온도가 낮으면 AI는 확률이 가장 높은 말을 골라요. 매번 비슷한 답이 나와요.
온도가 높으면 확률이 조금 낮은 말도 골라요. 답이 다채로워지지만 엉뚱해질 수도 있어요.
그림으로 정리하면
온도 낮음 vs 높음
온도 낮음 · 바닐라만
- 가장 그럴듯한 말만 골라요
- 매번 비슷한 답
- 요약, 표 정리, 코드
온도 높음 · 새 맛 도전
- 덜 흔한 말도 골라요
- 매번 다른 답
- 아이디어, 광고 문구
같은 후보, 온도에 따라 달라지는 뽑힐 확률
낮을 때 '좋네요'거의 늘
낮을 때 '덥다'거의 안 뽑힘
높을 때 '좋네요'가끔
높을 때 '덥다'꽤 자주
숫자는 그림을 위한 예시예요.
실제로는
- 보통 0에 가까울수록 일정하고, 1을 넘어갈수록 다양해져요.
- 정리·추출·코드처럼 정확해야 하는 일은 낮게, 아이디어·카피처럼 다양해야 하는 일은 높게 써요.
- 채팅 앱에서는 직접 못 바꾸는 경우가 많고, API로 부를 때 정해요.
왜 알아야 하나요
같은 질문에 답이 왜 매번 달라지는지, 일정한 결과가 필요할 때 무엇을 바꾸면 되는지 알 수 있어요.
헷갈리기 쉬운 것
- 온도를 0으로 해도 답이 완전히 똑같지 않을 수 있어요.
- 온도를 높인다고 더 똑똑해지는 건 아니에요. 다양해질 뿐이에요.