https://arxiv.org/abs/2404.13628

LoRA는 다양한 다운스트림 작업을 처리하기 위해 사전 훈련된 대규모 모델의 미세 조정에서 널리 수용되었으며, 주목할만한 효과와 효율성을 보여줌으로써 가장 널리 사용되는 미세 조정 기술 중 하나로 입지를 확고히 했습니다. LoRA 플러그 앤 플레이 플러그인의 모듈식 특성으로 인해 연구원들은 모델이 다양한 다운스트림 작업에서 탁월한 성능을 발휘할 수 있도록 여러 LoRA를 통합하는 방법을 연구했습니다. 그럼에도 불구하고 LoRA 융합에 대한 기존 접근 방식은 고유한 문제를 안고 있습니다. 직접적인 산술 병합으로 인해 사전 훈련된 원래 모델의 생성 기능이나 LoRA의 고유한 정체성이 손실되어 최적이 아닌 결과가 나올 수 있습니다. 반면, 참조 튜닝 기반 융합은 여러 LoRA의 효과적인 조합에 필요한 유연성과 관련하여 한계를 나타냅니다. 이러한 과제에 대응하여 이 문서에서는 계층적 제어와 자유로운 분기 선택을 활용하는 MoLE(Mixture of LoRA Experts) 접근 방식을 소개합니다. MoLE 접근 방식은 직접 산술 병합에 비해 뛰어난 LoRA 융합 성능을 달성할 뿐만 아니라 LoRA를 효과적으로 결합하는 데 중요한 유연성을 유지합니다. NLP(자연어 처리) 및 V&L(비전 및 언어) 영역 모두에서 수행된 광범위한 실험 평가는 MoLE의 효율성을 입증합니다.