AI 용어 쉽게 풀어보기 1편 — LLM이 뭐길래? 법대생이 이해한 '다음 단어 예측기'

법 공부만 해도 벅찬 신입생에게 'LLM', 'GPT' 같은 말은 늘 남의 얘기 같았습니다. 그래도 도망치는 대신, AI 용어를 딱 하나씩 제대로 이해해보기로 했습니다. 그 첫 번째가 바로 LLM입니다.

 

이 글에서 하나만 기억하신다면 이것입니다. LLM은 '정답을 아는 기계'가 아니라, 방대한 글을 학습해 '다음에 올 가장 그럴듯한 단어'를 확률로 이어 붙이는 기계라는 것입니다. 이 원리 하나만 잡으면 AI를 왜 의심해야 하는지, 어떻게 써야 하는지가 거의 다 설명됩니다.

 

1. LLM이라는 이름부터 뜯어봤습니다

 

LLM은 Large Language Model, 우리말로 '대형 언어 모델'입니다. 여기서 '언어'라는 단어가 핵심입니다. 이 기계가 학습한 것은 세상의 진리나 법조문 자체가 아니라, 사람이 써 놓은 엄청난 양의 '문장'이기 때문입니다. 그래서 LLM은 사실을 통째로 외운 백과사전이 아니라, 말의 패턴을 익힌 기계라고 보는 편이 정확합니다. 그럴듯하게 말하는 데는 능숙하지만, 그 말이 항상 사실인지는 완전히 별개의 문제입니다.

 

2. 핵심은 '다음 단어 맞히기'입니다

 

LLM이 하는 일을 한 문장으로 줄이면 '다음에 올 단어를 확률로 예측하기'입니다. 예를 들어 '민법 제1조는'까지 입력하면, 모델은 학습한 문장들을 근거로 그 뒤에 가장 자주 이어졌던 단어를 확률 순으로 골라 붙입니다. 우리 눈에는 문장을 이해하고 답하는 것처럼 보이지만, 내부에서는 '이 다음엔 이 말이 나올 확률이 높다'를 계산할 뿐입니다. 놀랍도록 자연스러운 답도, 알고 보면 이 예측을 수없이 반복한 결과입니다.

 

3. 그래서 '환각'이 생깁니다

 

이 원리를 알면 AI가 없는 사실을 지어내는 '환각(hallucination)' 현상도 자연스럽게 이해됩니다. 모델은 '사실인가'가 아니라 '그럴듯한가'를 기준으로 단어를 고르기 때문입니다. 예를 들어 존재하지 않는 판례 번호도, 실제 판례와 형식만 비슷하면 태연히 만들어냅니다. 그러니 환각은 AI의 고장이 아니라 원리상 언제든 나올 수 있는 특성입니다. 이 사실을 안 뒤로 저는 AI 답을 그대로 믿는 습관부터 버렸습니다.

 

4. 원리를 알면 쓰는 법이 달라집니다

 

'다음 단어 예측기'라는 정체를 이해하면 질문하는 방식도 바뀝니다. 예시 전으로 '헌법에 대해 알려줘'라고 막연히 물으면, 모델은 가장 무난하고 평균적인 문장을 확률로 뽑아 뻔한 답을 줍니다. 예시 후로 '헌법 제10조 인간의 존엄과 가치를 법대 1학년이 이해할 수 있게 사례를 들어 설명하고, 출처가 불확실한 부분은 표시해줘'처럼 조건을 좁혀주면, 예측의 방향이 좁아져 훨씬 쓸 만한 답이 나옵니다. 좋은 질문이란 결국, 확률 예측기가 헤매지 않도록 길을 좁혀주는 일이었습니다.

 

정리하면 LLM은 진리를 아는 현자가 아니라, '다음에 올 가장 그럴듯한 단어'를 이어 붙이는 확률 기계입니다. 이 하나만 기억해도 왜 검증이 필요하고 왜 질문을 구체적으로 해야 하는지가 전부 풀립니다. 다음 편에서는 LLM을 이해하는 두 번째 열쇠인 '토큰'과 '컨텍스트 윈도우'가 무엇인지, 그리고 왜 긴 대화에서는 AI가 앞부분을 잊어버리는지를 쉽게 풀어보겠습니다.