모델 기초
거대 언어 모델(LLM)
대규모 텍스트로 학습해 사람처럼 글을 이해하고 생성하는 언어 모델이에요. GPT·Claude·Gemini가 여기에 해당해요
모델 기초 AI 용어
LLM·파라미터 등 모델을 구성하는 기초 용어
모델 기초
환각(할루시네이션)(Hallucination)
모델이 그럴듯하지만 틀린 정보를 사실처럼 생성하는 현상이에요. 생성형 AI의 구조적 한계라 사실 확인이 꼭 필요해요
모델 기초
멀티모달(Multimodal)
텍스트뿐 아니라 이미지·음성·영상 등 여러 형태(modality)를 함께 이해하고 다루는 모델이에요
모델 기초
오픈소스 AI(Open Source AI)
모델의 코드나 가중치를 공개해 누구나 쓰고 수정할 수 있게 한 AI예요. Llama·DeepSeek처럼 무료로 받아 자체 서버에서 돌릴 수 있는 모델들이 여기에 속해요
모델 기초
컨텍스트 로트(Context Rot)
입력 컨텍스트가 길어질수록 LLM이 앞부분 지시나 정보를 놓치며 성능이 고르지 않게 떨어지는 현상이에요. 컨텍스트 창이 크다고 끝까지 잘 쓰는 건 아니라는 거죠
모델 기초
컨텍스트 윈도우(Context Window)
모델이 한 번에 기억·참조할 수 있는 토큰의 양이에요. '200K 컨텍스트'면 약 15만 단어 분량을 한꺼번에 볼 수 있어요
모델 기초
토큰(Token)
AI에서는 모델이 텍스트를 처리하는 최소 단위(비용·길이 산정 기준)이고, 데이터·결제 쪽에서는 민감정보를 가린 대체값(토큰화)을 뜻해요
모델 기초
확산 모델(Diffusion)
AI에서는 노이즈 복원 학습으로 이미지를 만들어내는 확산 모델을, 마케팅 이론에서는 신제품이 시장에 퍼지는 과정을 설명하는 혁신 확산 이론을 뜻해요
모델 기초
KV 캐시(프롬프트 캐싱)(KV Cache)
모델이 이미 계산한 결과를 저장해뒀다가 재사용해서 응답 속도를 높이고 비용을 줄이는 최적화 기술이에요. API의 '프롬프트 캐싱' 할인이 이 원리예요
모델 기초
전문가 혼합(MoE (Mixture of Experts))
모델 내부를 여러 '전문가' 서브 네트워크로 쪼개고, 질문마다 필요한 전문가만 골라 쓰는 구조예요. 큰 모델을 적은 연산으로 돌리는 비결이에요
모델 기초
추론(실행)(Inference)
AI에서는 학습이 끝난 모델을 실제로 돌려 답을 뽑는 실행 단계를, 데이터 분석에서는 표본으로 전체를 판단하는 통계적 추론을 뜻해요
모델 기초
컨텍스트 앵자이어티(Context Anxiety)
LLM이 컨텍스트가 곧 찬다고 착각해, 여유가 충분한데도 서둘러 요약하고 작업을 미완으로 닫는 현상이에요. 감정이 아니라 학습된 행동 패턴을 부르는 은유죠
모델 기초
토큰 처리량(Token Throughput)
AI 시스템이 초당 처리하는 토큰 수로, 얼마나 많은 요청을 얼마나 빠르게 감당할 수 있는지를 나타내는 지표예요
모델 기초
파라미터(Parameter)
쓰는 곳에 따라 뜻이 달라요. AI에서는 모델이 학습으로 조정하는 가중치 값(70B=700억 개), GA4에서는 이벤트에 붙여 보내는 부가 정보를 가리켜요
모델 기초
파운데이션 모델(Foundation Model)
광범위한 데이터로 사전학습해 다양한 작업에 범용으로 갖다 쓰는 기반 모델이에요. LLM은 그중 언어에 특화된 버전이에요
모델 기초
생성적 적대 신경망(GAN (Generative Adversarial Network))
'만드는 AI'와 '가짜를 판별하는 AI'를 경쟁시켜 진짜 같은 결과물을 만들어내는 생성 기술이에요. 딥페이크의 원조 기술로 유명해요