AI 뉴스를 읽다 보면 LLM, 토큰, 파인튜닝, 에이전트 같은 낯선 말이 쏟아집니다. 뜻을 대충 알아도 기사는 읽히지만, 정확히 알면 기사가 과장인지 아닌지를 스스로 판단할 수 있게 됩니다.
이 글은 그 판단을 할 수 있을 만큼만, 대신 확실하게 정리한 사전입니다. 용어마다 정의 → 비유 → 왜 뉴스에 자주 나오는지 순서로 설명하고, 흔한 오해도 함께 짚었습니다. 처음부터 읽어도 되고, 필요한 항목만 찾아 읽어도 됩니다.
한눈에 보는 요약표
먼저 전체 지도를 보고 가겠습니다. 아래 표의 용어들이 이 글에서 다루는 전부입니다.
| 용어 | 한 줄 정의 | 왜 중요한가 |
|---|---|---|
| LLM | 글을 읽고 쓰는 대규모 AI 모델 | 모든 AI 챗봇의 엔진 |
| 파라미터 | 모델 내부의 조절 나사 개수 | 모델 크기·비용의 척도 |
| 토큰 | AI가 글을 다루는 최소 단위 | 요금과 처리 한도의 기준 |
| 컨텍스트 윈도 | 한 번에 기억하는 분량 | 긴 문서 처리 능력 |
| 사전학습/파인튜닝 | 기본기 학습 / 용도별 조정 | 모델이 만들어지는 과정 |
| RAG | 외부 자료를 찾아보고 답하기 | 최신성·정확성 확보 수단 |
| 할루시네이션 | 그럴듯한 거짓말 | AI의 근본적 약점 |
| 멀티모달 | 글·그림·소리를 함께 다룸 | 요즘 모델의 기본 사양 |
| 추론 모델 | 단계별로 따져보고 답함 | 수학·코딩에 강함 |
| AI 에이전트 | 스스로 일을 수행하는 AI | 업계가 가장 주력하는 분야 |
| 오픈 웨이트 | 모델 파일이 공개된 것 | 기업이 직접 돌릴 수 있음 |
| 온디바이스 AI | 기기 안에서 도는 AI | 개인정보·오프라인 강점 |
1. 모델의 기본기
LLM (대규모 언어 모델)
정의. 방대한 텍스트를 학습해 사람처럼 글을 읽고 쓰는 AI입니다. Large Language Model의 약자로, 챗봇 화면 뒤에서 실제로 답을 만들어내는 엔진입니다.
비유. 세상의 거의 모든 글을 읽은 뒤, “이 문장 다음에 올 가장 자연스러운 말”을 고르는 훈련만 수억 번 반복한 존재라고 생각하면 가깝습니다. 이 단순한 훈련에서 번역·요약·코딩 능력이 딸려 나온 것이 지난 몇 년간 AI 발전의 핵심이었습니다.
흔한 오해. LLM이 사실을 “저장”해두고 꺼내온다고 생각하기 쉽지만, 실제로는 확률적으로 문장을 만들어냅니다. 이것이 뒤에 나올 할루시네이션의 근본 원인입니다.
파라미터
정의. 모델 내부에서 학습을 통해 조정되는 수치들의 개수입니다. “70B 모델”이라면 파라미터가 700억 개라는 뜻입니다.
비유. 거대한 오디오 믹서의 조절 나사라고 보면 됩니다. 학습이란 이 나사들을 조금씩 돌려 소리를 맞추는 과정이고, 나사가 많을수록 섬세한 조율이 가능합니다.
주의할 점. 파라미터가 많다고 항상 좋은 것은 아닙니다. 클수록 실행 비용과 응답 시간이 늘어나기 때문에, 기업들은 큰 모델과 작고 빠른 모델을 함께 내놓습니다. 최근에는 작은 모델이 잘 훈련되어 큰 모델을 이기는 사례도 흔합니다. 따라서 “파라미터 수가 늘었다”는 뉴스만으로 성능이 좋아졌다고 볼 수 없습니다.
토큰
정의. AI가 글을 처리하는 최소 단위입니다. 한국어는 대략 한두 글자, 영어는 단어 하나 정도가 토큰 하나에 해당합니다.
왜 자주 나오나. 두 가지 이유입니다. 첫째, AI 서비스 요금이 “토큰당 얼마”로 매겨집니다. 둘째, 모델이 한 번에 다룰 수 있는 분량도 토큰으로 셉니다. 그래서 “입력 100만 토큰 지원”, “토큰 가격 50% 인하” 같은 표현이 기사에 등장합니다.
실용 팁. 한국어는 영어보다 토큰을 더 많이 소모하는 경향이 있습니다. 같은 내용이라도 한국어 이용이 비용이 더 들 수 있다는 뜻입니다.
컨텍스트 윈도
정의. 모델이 한 번의 대화에서 참고할 수 있는 최대 분량입니다. 이 한도를 넘으면 앞부분 내용을 잊어버립니다.
비유. 책상 넓이입니다. 넓을수록 여러 자료를 펼쳐놓고 함께 볼 수 있지만, 책상이 넓다고 해서 자료를 잘 읽는다는 보장은 없습니다. 실제로 “긴 문서를 넣을 수는 있지만 중간 내용을 놓친다”는 한계가 보고되곤 합니다.
2. 학습과 개선
사전학습과 파인튜닝
사전학습(Pre-training)은 인터넷 규모의 텍스트로 기본 언어 능력을 만드는 단계입니다. 막대한 비용과 시간이 들며, 이 단계를 감당할 수 있는 회사는 세계적으로 소수입니다.
파인튜닝(Fine-tuning)은 완성된 모델을 특정 목적(의료 상담, 법률 문서, 사내 규정)에 맞게 추가로 다듬는 단계입니다. 상대적으로 저렴해서 일반 기업도 시도할 수 있습니다.
요리 비유. 사전학습이 며칠에 걸쳐 육수를 내는 일이라면, 파인튜닝은 그 육수로 각 메뉴에 맞게 간을 하는 일입니다. 대부분의 기업 AI 뉴스는 후자에 관한 것입니다.
RAG (검색 증강 생성)
정의. 모델이 답하기 전에 외부 자료(사내 문서, 데이터베이스, 웹)를 먼저 검색하고, 찾은 내용을 근거로 답을 만드는 방식입니다.
왜 중요한가. LLM에는 두 가지 고질병이 있습니다. 학습 시점 이후의 일을 모른다는 것과, 모르는 것을 지어낸다는 것입니다. RAG는 이 둘을 동시에 완화합니다. 그래서 기업용 AI 도입 사례의 상당수가 RAG 구조입니다.
한계. 검색이 엉뚱한 자료를 가져오면 답도 함께 틀립니다. RAG는 만능이 아니라 “근거를 붙이는 장치”입니다.
할루시네이션 (환각)
정의. AI가 사실이 아닌 내용을 사실인 것처럼 자신 있게 말하는 현상입니다.
왜 생기나. 앞서 말했듯 LLM은 “가장 자연스러운 다음 말”을 고르는 기계입니다. 모른다고 말하는 것보다 그럴듯한 문장을 만드는 쪽이 학습 목표에 더 부합할 때가 있습니다. 즉 버그가 아니라 구조에서 오는 특성이며, 완전히 없애기는 어렵습니다.
특히 위험한 곳. 존재하지 않는 논문·판례·통계를 그럴듯한 형식으로 지어내는 경우입니다. 형식이 완벽해서 오히려 속기 쉽습니다.
AI가 알려준 사실 정보는 “일단 의심하고 원 출처를 확인한다”를 기본값으로 두는 것이 안전합니다. 특히 숫자, 날짜, 고유명사, 인용문이 그렇습니다.
3. 요즘 뉴스의 단골 용어
멀티모달
텍스트만이 아니라 이미지·음성·영상까지 함께 이해하고 만들어내는 능력입니다. 사진을 올리면 내용을 설명해주고, 말로 물으면 말로 답하는 기능이 여기 해당합니다. 몇 년 전만 해도 특별한 기능이었지만 지금은 주요 모델의 기본 사양에 가깝습니다.
추론 모델
답을 바로 내놓지 않고 문제를 단계별로 따져본 뒤 답하도록 훈련된 모델입니다. 수학·코딩·논리 문제에서 성능이 크게 오르지만, 생각하는 만큼 응답이 느리고 비용이 큽니다. 그래서 서비스들은 간단한 질문은 일반 모델로, 어려운 질문은 추론 모델로 나눠 처리하기도 합니다.
AI 에이전트
묻는 말에 답만 하는 챗봇을 넘어, 목표를 주면 스스로 계획을 세우고 검색·문서 작성·프로그램 실행 같은 여러 단계를 대신 수행하는 AI입니다. “AI가 대신 예약을 해준다”, “코드를 스스로 고친다” 같은 소식이 모두 이 범주입니다.
읽을 때 주의. 에이전트 관련 발표는 시연 영상이 인상적인 경우가 많은데, 실제 환경에서의 성공률은 시연보다 낮은 것이 보통입니다. “누구나 지금 쓸 수 있는가”를 꼭 확인하세요.
오픈소스 모델 / 오픈 웨이트
모델 파일(가중치)을 공개해 누구나 내려받아 자기 서버에서 돌릴 수 있게 한 모델입니다. 유료 API에 의존하지 않고 데이터를 외부로 내보내지 않아도 되기 때문에, 보안이 중요한 기업이 선호합니다.
용어 주의. 학습 데이터와 코드까지 모두 공개된 경우는 드물어서, 엄밀하게는 “오픈소스”가 아니라 “오픈 웨이트”라고 부르는 것이 정확합니다. 또한 공개되었다고 해서 상업적 이용이 자유롭다는 뜻은 아니며, 라이선스를 따로 확인해야 합니다.
온디바이스 AI
클라우드 서버가 아니라 스마트폰·노트북 기기 안에서 직접 실행되는 AI입니다. 인터넷 없이 동작하고 데이터가 기기 밖으로 나가지 않는 것이 장점이라, 스마트폰 제조사들이 앞다투어 내세우는 기능입니다. 대신 기기 성능의 한계 때문에 클라우드 모델보다 작고 단순한 모델이 쓰입니다.
4. 이 사전으로 기사를 읽는 법
용어를 알고 나면 다음 세 가지 질문을 던질 수 있게 됩니다. 이것만으로도 과장 기사의 상당수가 걸러집니다.
- “지금 쓸 수 있나?” — 발표·연구 단계인지, 실제 출시인지 구분합니다.
- “그 수치는 누가 쟀나?” — 개발사 자체 벤치마크인지, 제3자 평가인지 확인합니다.
- “무엇과 비교한 건가?” — 비교 대상이 구형 모델이면 “2배 성능”은 큰 의미가 없습니다.
AI 분야는 용어가 계속 생겨납니다. 이 글은 새로 자주 등장하는 용어가 생길 때마다 갱신할 예정입니다. 설명이 어렵거나 추가했으면 하는 용어가 있다면 문의 페이지로 알려주세요.
이어서 읽기
