LLM은 어떻게 답을 만드나 — 원리를 비유로 이해하기

이 글은 AI 입문 연재의 두 번째 글이다. 앞 글에서 용어를 훑었으니, 이번에는 그 안에서 실제로 무슨 일이 벌어지는지 본다. 수식은 하나도 나오지 않는다. 대신 "AI가 대체 왜 저러지" 싶었던 순간들, 그러니까 없는 사실을 지어내고, 같은 질문에 매번 다르게 답하고, 간단한 계산을 틀리는 이유를 하나의 원리로 이어서 설명한다. 원리를 알면 AI가 언제 미덥고 언제 미덥지 않은지 감이 생긴다. 그 감이 이 연재에서 얻어 갈 가장 실용적인 결과물이다.

본질은 "다음에 올 말 맞히기"다

LLM이 하는 일은 딱 하나다. 지금까지의 말 다음에 무엇이 올지 고르는 것이다. "오늘 하늘이 참"까지 주어지면 그다음에 '맑다'가 올 가능성이 높고 '무겁다'는 낮다고 판단한다. 그리고 고른 말을 문장에 붙인 뒤, 다시 그 뒤에 올 말을 고른다. 이 과정을 수백 번 반복하면 한 편의 답변이 완성된다.

이 판단의 근거는 엄청난 양의 글이다. AI는 그 글들을 읽으며 '어떤 말 뒤에는 어떤 말이 오더라'는 패턴을 통째로 익혔다. 정답을 외운 것이 아니라 말의 흐름을 익힌 것에 가깝다.

여기서 오해 하나를 풀어야 한다. AI는 답을 어딘가에서 꺼내 오지 않는다. 그때그때 만들어 낸다. 창고에서 물건을 꺼내는 것이 아니라, 주문을 받고 그 자리에서 요리를 하는 쪽에 가깝다. 이 차이가 아래의 모든 현상을 만든다.

검색과는 무엇이 다른가

검색 엔진은 이미 존재하는 문서를 찾아서 보여 준다. 그래서 결과에는 항상 원본과 링크가 따라온다. 없는 내용은 아예 나오지 않는다.

LLM은 반대다. 문서를 찾아 주는 것이 아니라 문장을 지어 준다. 그래서 흩어진 내용을 요약하고 다듬는 일에는 강하지만, "이게 어디서 나온 말이냐"에는 약하다. 애초에 어디서 가져온 것이 아니기 때문이다.

왜 물을 때마다 답이 다른가

AI는 다음 말을 고를 때 가장 가능성 높은 하나만 항상 집지는 않는다. 상위 후보들 중에서 약간의 무작위성을 섞어 고른다. 그래야 문장이 기계적으로 반복되지 않고 자연스러워지기 때문이다.

그 결과 같은 질문을 두 번 해도 문장이 달라진다. 이건 버그가 아니라 설계다. 그리고 실전에서는 꽤 쓸모가 있다. 답이 마음에 안 들면 같은 질문을 새 대화에서 한 번 더 던져 보는 것만으로 다른 결과를 얻을 수 있다. 두 답이 크게 어긋난다면, 그 내용은 의심할 만하다는 신호이기도 하다.

그래서 왜 환각이 생기는가

이제 앞의 두 가지를 합쳐 보자. AI는 가장 그럴듯한 말을 고르는 장치이지, 사실인 말을 고르는 장치가 아니다. 이 둘은 대개 겹치지만 항상 겹치지는 않는다.

예를 들어 "이 주제를 다룬 논문을 알려 달라"고 하면, AI는 논문 제목이 대체로 어떤 모양인지 안다. 그럴듯한 저자 이름, 그럴듯한 학술지 이름, 그럴듯한 연도를 이어 붙이면 진짜 논문처럼 보이는 문장이 완성된다. 실제로 존재하는지는 확인하지 않는다. 확인하는 기능이 아니라 잇는 기능이기 때문이다.

환각이 유독 위험한 이유도 여기 있다. 매끄러운 문장을 만드는 능력과 사실을 맞히는 능력이 분리되어 있어서, 틀린 답도 맞는 답과 똑같이 매끄럽다.

왜 최신 정보를 모르는가

AI의 학습은 어느 시점에 끝난다. 그 뒤에 벌어진 일은 학습 자료에 없으니 알 수가 없다. 시험 범위가 정해진 교재로만 공부한 사람과 같다.

게다가 학습이 끝나고 실제 서비스가 나오기까지 시간이 더 걸린다. 그래서 가장 최신 모델도 오늘 기준으로는 이미 몇 달 뒤처져 있는 것이 보통이다. 요즘 서비스가 웹 검색 기능을 붙여 두는 이유가 이것이다. 최신 정보가 필요하면 그 기능이 켜져 있는지 확인하는 습관을 들이는 편이 좋다.

왜 계산과 숫자에 약한가

이것도 같은 원리로 설명된다. AI에게 세 자리 곱셈을 시키면 실제로 곱하지 않는다. 그 자리에 올 법한 숫자를 고른다. 자릿수가 그럴듯하고 끝자리도 얼추 맞는데 값만 틀린 답이 나오는 것은 그래서다.

다만 요즘 서비스들은 이 약점을 알고 있어서, 계산이 필요한 순간에 내부적으로 계산 도구를 불러 쓰기도 한다. 그래도 원칙은 변하지 않는다. 숫자가 중요한 답은 사람이 다시 확인한다.

정리

LLM은 말의 흐름을 익혀 다음 말을 고르는 장치다. 이 한 문장에서 강점과 약점이 모두 나온다. 문장을 만들고 다듬고 요약하는 일은 잘한다. 사실을 보증하고 숫자를 맞히고 최신 소식을 아는 일은 못한다. 그러니 쓰는 쪽도 그 결에 맞춰 쓰면 된다.

다음 편은 41. 무료로 AI 시작하기 — 계정 만들기부터 첫 대화까지다. 이제 직접 해 볼 차례다.

※ 이 글의 설명은 2026년 8월 기준이며 서비스 정책과 요금은 자주 변경됩니다.