AI 용어집  /  언어 모델

임베딩Embedding

글이나 그림의 '뜻'을 숫자 좌표로 바꾼 것이에요. 뜻이 비슷하면 좌표도 가까워요.

로봇이 뜻 지도에 개 그림 두 개는 가까이, 영수증 그림은 멀리 꽂는 그림
비유로 보면뜻이 비슷한 말은 지도 위에서도 가까이 놓여요

쉽게 말하면

지도에서 서울과 경기도는 가깝고, 서울과 부산은 멀어요.

임베딩은 낱말과 문장을 '뜻 지도' 위에 점으로 찍는 거예요. '강아지'와 '개'는 바로 옆에, '강아지'와 '세금'은 멀리 찍혀요.

그래서 컴퓨터가 글자는 달라도 뜻이 비슷한 글을 찾을 수 있어요.

그림으로 정리하면

글을 뜻 좌표로

문장반품하고 싶어요
임베딩 모델뜻을 숫자로
좌표[0.12, -0.83, 0.40, …]

'반품하고 싶어요'와 얼마나 가까운가

환불 받을 수 있나요?아주 가까움
배송이 언제 오나요?조금 가까움
오늘 날씨 어때요?멀어요

가까운 정도는 그림을 위한 예시예요.

실제로는

집 모양 질문 카드와 뜻이 비슷한 문서 세 장을 로봇이 자료 묶음에서 골라내는 그림
실제 상황질문과 뜻이 가까운 문서 조각을 찾아 꺼내는 데 써요
왜 알아야 하나요

'환불 규정'으로 물어봐도 '반품 안내' 문서를 찾아 주는 검색이 어떻게 되는지 알 수 있어요.

헷갈리기 쉬운 것
  • 가깝다고 다 정답은 아니에요. 비슷하지만 다른 내용을 가져올 수 있어요.
  • 임베딩 모델마다 지도가 달라서, 다른 모델로 만든 좌표끼리는 비교하면 안 돼요.

같이 보면 좋은 용어

벡터시맨틱 검색벡터 DBRAG

참고 자료