파인튜닝Fine-tuning
한마디로
사전학습된 모델을 특정 도메인, 작업에 맞게 추가 학습으로 조정하는 거예요. '범용 모델을 우리 일에 맞춰 특화'하는 단계예요
파인튜닝은 '기성복을 몸에 맞게 수선'하는 거예요. 범용 모델을 우리 말투, 도메인, 작업에 맞게 추가 학습시켜 특화하죠.
다만 실무에선 '최신, 사내 지식을 반영'하는 게 목적이면 파인튜닝보다 RAG가 빠르고 싼 경우가 많아요. 파인튜닝은 비용, 시간이 들고 데이터가 바뀌면 다시 해야 하거든요. '말투, 형식을 일관되게' 같은 목적엔 파인튜닝이, '최신 사실 반영'엔 RAG가 보통 유리해요.
헷갈리는 용어 구분
태그
관련 용어
- 사전학습대규모 데이터로 모델의 기본 능력을 만드는 1차 학습이에요. 모델의 '기초 교육' 단계라고 보면 돼요
- 검색 증강 생성외부 문서를 검색해 그 내용을 근거로 답변을 생성하는 방식이에요. 환각을 줄이고 최신, 사내 정보를 답에 반영할 수 있어요
- 인간 피드백 기반 강화학습사람의 피드백으로 모델을 사람 취향, 의도에 맞게 정렬, 개선하는 방식이에요. 챗봇이 '말이 통하게' 만든 핵심 기술이에요
- 디스틸레이션(증류)큰 모델(선생)의 출력을 작은 모델(학생)이 따라 배우게 해 능력을 옮기는 기술이에요. 구글은 Gemini 1.5 Flash를 1.5 Pro로부터 이렇게 학습시…
- LoRA(로라, 저랭크 적응)큰 AI 모델의 본체는 그대로 두고 옆에 작은 보조 가중치만 붙여 학습시키는 가벼운 미세조정 방법이에요. 적은 비용으로 우리 말투나 브랜드 이미지 스타일을 모델…
- 소형 언어 모델(sLLM)파라미터 수를 보통 수십억 개 수준으로 줄여 일반 서버나 노트북, 스마트폰에서도 돌아가게 만든 언어 모델이에요. 대형 모델보다 지식 폭은 좁지만 싸고 빠르며,…
공유