학습Training · 훈련
AI 모델이 예시를 보며 틀린 만큼 조금씩 고쳐서 실력을 키우는 과정이에요.
쉽게 말하면
다트 던지기를 배운다고 해 봐요. 던지고, 과녁에서 얼마나 빗나갔는지 보고, 손목을 조금 고쳐서 다시 던져요.
AI 학습도 똑같아요. 답을 내 보고, 정답과 얼마나 다른지(오차) 재고, 내부 숫자(파라미터)를 조금씩 고쳐요.
이걸 수백만, 수십억 번 반복하면 점점 과녁 가운데를 맞혀요.
그림으로 정리하면
던지고 → 재고 → 고치고 → 또 던지기
- 답을 내 봐요사진을 보고 '개'라고 답함
- 정답과 비교해요정답은 '고양이' — 틀렸어요
- 내부 숫자를 조금 고쳐요다음엔 고양이 쪽으로 기울게
- 다시 반복수십억 번 반복하면 잘 맞혀요
반복할수록 빗나가는 정도(오차)가 줄어요
1번째많이 빗나감
100번째조금 나아짐
1만 번째꽤 맞힘
100만 번째거의 맞힘
막대가 짧을수록 오차가 작다는 뜻이에요. 숫자는 그림을 위한 예시예요.
실제로는
- 오차를 줄이는 방향으로 파라미터를 조금씩 고치는 방법을 경사하강법이라고 해요.
- 큰 언어 모델은 수천 개의 GPU로 몇 주에서 몇 달 동안 학습해요.
- 학습이 끝난 모델은 파라미터가 고정되고, 쓰는 동안에는 더 배우지 않아요(추론).
왜 알아야 하나요
ChatGPT에게 한 말이 바로 모델을 바꾸지 않는 이유를 알 수 있어요. 학습은 따로, 큰 비용을 들여 해요.
헷갈리기 쉬운 것
- 대화하면서 AI가 '배운다'고 느끼는 것은 대개 대화 기록이나 메모리를 다시 읽는 거예요. 모델 자체가 학습한 게 아니에요.
- 학습(training)과 추론(inference)은 다른 단계예요.