AMD, LoRA 동적 전환으로 기본 모델 가중치 중복 줄인다

AMD는 Ryzen AI Software 1.9를 통해 개발자가 양자화된 기본 모델을 NPU에 유지하면서 추론 중 별도로 컴파일된 LoRA 어댑터를 전환할 수 있다고 밝혔다. 이에 따라 정적 병합 방식보다 기본 가중치의 중복을 줄일 수 있다. 이 기능은 Qwen2.5-3B, Qwen3-4B, Qwen3.5-4B 등 일부 텍스트 모델을 지원한다. AMD는 양자화된 기본 모델을 기준으로 어댑터를 학습할 것을 권고했다. AMD가 제시한 Qwen3-4B INT4 모델 활용 사례에서 텍스트-SQL 변환 실행 정확도는 47.5%에서 63.0%로 높아졌다. 의료 객관식 문항의 완전 일치 정확도는 42.0%에서 53.0%로 상승했다. 두 벤치마크 결과는 각각 예제 200개를 사용했으며 AMD가 보고했다. 1.9 버전에는 긴 컨텍스트 지원, 양자화 인지 학습으로 만든 INT4 모델 가져오기, 추가 모델 지원도 포함됐다.