소형 언어 모델(sLLM)Small Language Model (SLM, sLLM)

소형 언어 모델은 파라미터 수가 적은 언어 모델을 통칭하는 말이에요. 해외에서는 SLM이라고 많이 부르고, 국내에서는 '작은 LLM'이라는 뜻의 sLLM이라는 표기도 함께 쓰여요. 둘을 크기로 나눠 부르는 글도 있지만 정해진 기준은 없어 같은 범주로 봐도 무방합니다. 참고할 만한 기준으로, 엔비디아 연구진은 2025년 6월 논문에서 '일반 소비자 기기에 올라가 한 사용자의 요청을 실용적인 속도로 처리하는 모델'로 정의하고 2025년 기준 100억 파라미터 미만이면 대부분 여기에 넣을 수 있다고 봤어요. 마이크로소프트가 2024년 4월 공개한 Phi-3-mini(38억 파라미터)가 한 예로, 4비트로 양자화하면 약 1.8GB라 아이폰에서 직접 돌린 시험 결과도 함께 공개됐습니다.

기업이 주목하는 이유는 비용과 통제예요. 가트너는 2025년 4월 '2027년까지 기업이 작고 특정 작업에 맞춘 AI 모델을 범용 LLM보다 최소 3배 더 많이 쓰게 될 것'이라고 전망했습니다. 여기서 말하는 특화 모델에는 RAG나 파인튜닝으로 업무에 맞춘 모델도 포함돼요. 작은 모델은 응답이 빠르고 연산이 적게 들며, 자체 서버에 올리면 고객 데이터를 외부로 보내지 않고 쓸 수 있습니다. 앞의 엔비디아 논문도 에이전트가 반복해서 부르는 정형화된 작업은 상당수 소형 모델로 충분하고 더 경제적이라고 주장했어요.

다만 넓은 상식이나 복잡한 추론은 대형 모델보다 약합니다. 그래서 문의 분류, 상품 정보 추출, 정해진 형식의 문구 생성처럼 범위가 좁은 작업은 소형 모델에 맡기고, 판단이 어려운 일만 대형 모델로 넘기는 식으로 나눠 쓰는 구성이 현실적인 선택지예요. 도입 전에는 우리 업무 표본으로 품질을 먼저 재 보는 것이 순서입니다.

참고: Belcak 외, Small Language Models are the Future of Agentic AI(2025), Abdin 외, Phi-3 Technical Report(2024), Gartner, Small Task-Specific AI Models 사용 전망 보도자료(2025)