과적합Overfitting
AI가 연습 문제를 통째로 외워 버려서, 처음 보는 문제는 오히려 못 푸는 상태예요.
쉽게 말하면
수학 시험 대비로 문제집 답만 외운 친구는, 숫자 하나만 바뀌어도 못 풀어요.
AI도 학습 데이터를 너무 꼼꼼히 외우면, 연습 문제는 100점인데 실제 문제는 틀려요. 이걸 과적합이라고 해요.
그래서 AI를 가르칠 때는 처음 보는 문제(평가용 데이터)로 꼭 따로 시험을 봐요.
그림으로 정리하면
답을 외운 아이의 성적표
연습 문제 (외운 것)100점
처음 보는 문제55점
과적합을 막는 세 가지
연습 문제만 너무 잘 풀어요
하나예시를 더 모아요외울 수 없을 만큼 다양하게
둘적당할 때 멈춰요시험 점수가 떨어지기 시작하면 그만
셋모델을 단순하게외울 칸을 줄여요
실제로는
- 학습 데이터 성적은 계속 오르는데 평가 데이터 성적이 떨어지기 시작하면 과적합 신호예요.
- 데이터를 늘리거나, 학습을 일찍 멈추거나, 모델을 단순하게 해서 막아요.
- 반대로 너무 덜 배워서 둘 다 못 푸는 상태는 과소적합이에요.
왜 알아야 하나요
몇 개 예시로 AI를 맞춰 쓸 때(파인튜닝·퓨샷)도, 예시를 그대로 베끼기만 하는지 새 상황에서 꼭 확인해야 해요.
헷갈리기 쉬운 것
- 연습 성적이 높다고 실전에서 잘한다는 보장은 없어요.
- 벤치마크 점수가 높은데 실제로 써 보면 별로인 것도 비슷한 이유일 수 있어요.