한국 증시(KOSPI+KOSDAQ) 특화 언어 모델 VELA가 공개되었다. Qwen2.5-7B-Instruct를 베이스로 SFT + DPO 파이프라인으로 파인튜닝했다. 기존 금융 LLM의 한국 시장 용어 환각과 언어 전환(language leak) 문제를 해결하기 위해 제작되었으며, 7B 파라미터 사이즈임에도 기본 업무에서는 베이스 모델 대비 확실한 성능 향상을 보인다.

커뮤니티 의견

  • @ahiou: “멋지네요! 7B 로도 안정적인가요?”
  • @unohee: “모델 사이즈에 비해서 기본적인 업무들은 base 모델보다 확실히 낫습니다. 벤치마크도 같이 올려야겠네요!”

관련 레퍼런스

💡 실무 포인트: 도메인 특화 LLM을 만들 때 SFT+DPO 파이프라인 조합이 효과적이며, 7B 규모에서도 특정 도메인에서는 충분한 성능을 달성할 수 있다.