반드시 알아야 할 AI 기초 용어 (토큰, 임베딩, 온도 등)

인공지능(AI) 시대, 이제 AI를 얼마나 잘 다루느냐가 개인과 기업의 경쟁력을 결정합니다. 본 시리즈는 프롬프트의 기초부터 고급 기법까지 총 32개의 유형을 통해 여러분을 AI 활용 전문가로 안내합니다.
 
1. 토큰 (Token): AI가 글자를 읽는 단위
AI는 문장을 우리가 보는 것처럼 단어 그대로 읽지 않습니다. 텍스트를 처리하기 쉬운 최소 단위로 쪼개는데, 이를 토큰이라고 부릅니다.
특징: 단어보다 작을 수도, 클 수도 있습니다. 특히 한글은 영어와 구조가 달라 한 글자가 약 2~3개의 토큰을 차지하는 경우가 많습니다.왜 중요할까요? AI 모델마다 한 번에 처리할 수 있는 토큰 양(컨텍스트 윈도우)이 정해져 있기 때문입니다. 토큰 수가 많아지면 처리 비용이 비싸지고, 너무 길면 AI가 앞 내용을 잊어버리기도 합니다.

💡 상황 예시
질문: "오늘 점심 메뉴 추천해줘"토큰화 과정: [오늘] [점심] [메뉴] [추천] [해줘]와 같은 조각으로 나뉘어 입력됨.주의사항: 아주 긴 문서를 요약해달라고 할 때, 토큰 한계(Context Window)를 초과하면 AI가 문서의 뒷부분을 읽지 못하고 답변할 수 있습니다.

2. 임베딩 (Embedding): 단어에 '의미'라는 좌표 부여하기
AI는 단어를 이해하기 위해 텍스트를 숫자 벡터(좌표)로 변환합니다. 이를 임베딩이라고 합니다. 비슷한 의미를 가진 단어들은 숫자 값도 비슷하여 좌표 공간 내에서 서로 가까운 위치에 배치됩니다.
특징: "왕"과 "왕비"는 가깝게, "사과"와 "자동차"는 멀리 배치하여 문맥을 파악합니다.왜 중요할까요? AI가 질문자의 의도를 단순히 글자 모양이 아니라 '의미의 유사성'으로 파악할 수 있게 해주기 때문입니다.

3. 온도 (Temperature): 답변의 창의성 조절 버튼
AI의 응답이 얼마나 창의적일지, 아니면 일관될지를 결정하는 파라미터입니다. 보통 0에서 1 사이의 값을 가집니다.
낮은 온도 (0.2~0.3): 확률적으로 가장 높은 단어만 선택합니다. 답변이 결정적이고 일관적이며 논리적인 작업에 유리합니다.높은 온도 (0.7~0.9): 확률이 조금 낮은 단어도 섞어서 선택합니다. 답변이 다양하고 창의적이지만, 가끔 엉뚱한 소리를 할 수 있습니다.

💡 상황별 설정 예시
상황 1 (보고서 작성/코딩): 정확한 팩트가 중요할 때는 온도를 낮게 설정하여 일관된 답을 얻습니다.상황 2 (소설 쓰기/아이디어 브레인스토밍): 새로운 발상이 필요할 때는 온도를 높게 설정하여 창의적인 제안을 받습니다.

4. 할루시네이션 (Hallucination): 자신 있게 하는 '거짓말'
AI가 학습 데이터에 없는 내용을 마치 사실인 것처럼 그럴듯하게 지어내는 현상을 환각(할루시네이션)이라고 합니다. AI는 '단어 예측기'이기 때문에, 정보가 부족해도 문법적으로 완벽한 문장을 만들기 위해 가짜 정보를 생성할 수 있습니다.
대처법: 중요한 정보는 반드시 신뢰할 수 있는 출처를 통해 교차 검증해야 합니다.

💡 상황 예시
질문: "조선시대의 아이폰 사용 기록에 대해 알려줘."할루시네이션 발생: "조선 후기 실학자들이 서구에서 들여온 아이폰과 유사한 기록 장치를 사용했다는 야사가 전해집니다..." (완벽한 거짓말을 사실처럼 답변함).

4. 컨텍스트 윈도우 (Context Window): AI의 '단기 기억력'
AI가 한 번에 처리하고 기억할 수 있는 토큰의 최대 수입니다. 대화가 너무 길어져서 이 범위를 넘어가면 AI는 대화 초반의 지시사항이나 정보를 잊어버리게 됩니다.

📌 오늘의 핵심 요약
토큰: AI가 문장을 읽는 단위 (한글 한 글자는 2~3토큰).
임베딩: 단어의 의미를 숫자로 바꾸어 관계를 파악하는 기술.
온도: 답변의 창의성(높음)과 정확성(낮음)을 조절하는 수치.
할루시네이션: AI가 그럴듯하게 지어내는 가짜 정보.
컨텍스트 윈도우: AI가 한 번에 기억할 수 있는 정보의 한계치.

내일은 이 기초를 바탕으로, 프롬프트를 구성하는 '4대 핵심 요소(목적, 입력, 규칙, 출력)'를 어떻게 조합하는지 실습과 함께 알아보겠습니다.

오늘 배운 용어 중 가장 신기하거나 이해하기 어려웠던 부분은 무엇인가요? 질문을 남겨주시면 더 쉬운 비유로 설명해 드릴게요!