LLM은 텍스트를 이해하고 생성하는 거대한 패턴 인식기다.

WHY수십억 개의 텍스트에서 언어 패턴을 학습해 새로운 텍스트를 생성한다.

NOW책, 웹페이지, 코드 등 방대한 데이터가 하나의 모델로 압축된다.

LLM의 핵심은 '다음에 올 단어가 뭘까?'를 맞추는 것이다.

WHY수십억 번의 빈칸 채우기 게임을 통해 언어 패턴을 학습했다.

NOW후보 단어 위에 마우스를 올려 확률 분포를 확인해보세요.

처음 만든 LLM은 대화가 안 된다. 패턴 학습 → 지시 학습 → 인간 피드백 단계를 거쳐야 ChatGPT가 된다.

WHY패턴만 아는 모델을 '지시를 따르고 인간과 대화하는 모델'로 변환하는 과정이다.

NOW3단계를 클릭해 각 단계에서 모델이 어떻게 변하는지 확인하세요.

입력을 받으면 토큰을 하나씩 이어붙이며 답변을 완성한다.

WHY한 번에 전체 답변을 만드는 게 아니라, 다음 단어를 반복 선택하는 과정이다.

NOW버튼을 눌러 토큰이 하나씩 생성되는 과정을 확인하세요.

학습 데이터 밖의 것은 '그럴듯하게 지어낸다' - 이를 환각(Hallucination)이라 한다.

WHY모델은 패턴을 학습했을 뿐, 진짜 사실을 '아는' 것이 아니다.

NOW원 안은 학습된 지식, 원 밖은 모르는 영역 - 밖의 질문에는 지어낼 수 있다.

검색은 기존 정보를 '찾고', AI는 새로운 답변을 '만든다'.

WHY둘은 완전히 다른 도구다. 목적에 맞게 선택해야 한다.

NOW같은 질문을 던졌을 때 결과가 어떻게 다른지 비교해보세요.