-
반응형
인텔리콘연구소, 법률 특화 LLM '코알라' 개발 성공
소형언어모델(sLLM) '코알라(KOALLA)' 개발
직접선호최적화(DPO)같은 기법과 학습 데이터 구성 자체를 최적화하는 데이터 재규격화(Renormalization) 기술을 개발, 추가 학습을 진행했다.
데이터 재규격화 기법은 인텔리콘이 고안한 특허 기술로, 방대한 학습 데이터에서 성능 향상에 불필요한 데이터를 제거하는 데이터 디노이징(Data-denoizing) 기법과 실제 사용자의 행동 패턴 데이터를 융합해 리셔플링(Re-shuffling)하는 기술을 포함한다.
출처 : AI타임스(https://www.aitimes.com)superlawyer
반응형