LoRA(로라, 저랭크 적응)LoRA (Low-Rank Adaptation)

LoRA는 2021년 6월 마이크로소프트 연구진(에드워드 후 외)이 공개한 미세조정 기법이에요. 모델 전체를 다시 학습시키는 대신 원래 가중치는 얼려 두고, 고른 가중치 행렬(논문 실험은 어텐션 가중치)에 작은 행렬 두 개를 곱한 보정값을 더해 그 작은 행렬만 학습합니다. 논문은 GPT-3 175B를 Adam으로 전부 미세조정할 때와 비교해 학습할 파라미터 수를 1만분의 1로, GPU 메모리를 3분의 1로 줄였다고 밝혔어요. 학습한 보정값을 원래 가중치에 합쳐 배포하면 추론 지연도 늘지 않습니다.

쓰임이 넓어진 계기는 두 가지예요. 하나는 2023년 5월 나온 QLoRA로, 모델을 4비트로 양자화한 상태에서 LoRA를 붙여 650억 파라미터 모델을 48GB GPU 한 장으로 미세조정할 수 있게 했습니다. 다른 하나는 이미지 생성이에요. 허깅페이스가 2023년 1월 소개한 예시에서는 Stable Diffusion용 LoRA 결과물이 약 3MB 파일 하나였어요. 모델 전체를 주고받지 않아도 되니, 특정 화풍이나 캐릭터, 제품 외형을 학습시킨 작은 파일을 공유하고 갈아 끼우는 방식이 퍼졌습니다.

마케터에게는 '기반 모델 하나에 갈아입히는 얇은 맞춤 옷'이라고 생각하면 쉬워요. 브랜드별, 캠페인별 LoRA를 따로 만들어 같은 모델 위에서 바꿔 쓰는 식입니다. 다만 학습에 쓴 이미지와 문서의 저작권, 초상권을 먼저 확인해야 하고, 최신 사실을 반영하는 게 목적이라면 RAG가 더 맞는 경우가 많아요. 저전력 장거리 무선통신 기술 LoRa(끝 글자가 소문자)와는 이름만 같은 별개 용어입니다.

참고: Hu 외, LoRA: Low-Rank Adaptation of Large Language Models(2021), Dettmers 외, QLoRA: Efficient Finetuning of Quantized LLMs(2023), Hugging Face, Using LoRA for Efficient Stable Diffusion Fine-Tuning(2023)