본문으로 건너뛰기

크래프톤, 자체 개발 LLM 프리뷰 공개

지기 조회 0

크래프톤이 21일 자체 개발한 대형언어모델 ‘라온-1 미니’ 프리뷰 버전을 공개했다.

이 모델은 한국어와 영어를 지원하며, 전체 300억 매개변수 가운데 작업에 필요한 약 40억 개를 활성화하는 구조다.

크래프톤은 허깅페이스에 아파치 2.0 라이선스로 공개해 연구와 상업적 활용이 가능하다고 밝혔다.

회사는 성능을 개선한 정식 버전과 기술 보고서를 추후 공개할 계획이다.

자세히

크래프톤은 21일 자체 개발한 대형언어모델(LLM) ‘라온-1 미니’의 사전 공개 버전을 선보였다고 밝혔다. 모델 설계부터 학습까지 자체적으로 진행했으며, 한국어와 영어를 지원한다.

모델 전체 규모는 매개변수 300억 개다. 크래프톤은 전문가 혼합(MoE) 구조를 적용해 작업에 필요한 약 40억 개만 활성화하도록 했고, 자체 개발한 선형 어텐션 기술 등을 결합했다고 설명했다.

회사는 이 구조가 응답 속도를 높이고 추론 비용을 낮추기 위한 것이라고 밝혔다. 또한 자연스러운 한국어 대화와 지시 이행 능력을 강점으로 제시했다.

크래프톤에 따르면 라온-1 미니는 해외 동급 규모 모델보다 높은 성능을 보였고, 일부 평가 지표에서는 국내 대형 모델에 가까운 결과를 냈다. 이는 회사가 제시한 평가이며, 기사에는 구체적인 점수나 독립 평가 결과가 담기지 않았다.

프리뷰 모델은 허깅페이스에 아파치 2.0 라이선스로 공개됐다. 이용자는 무료로 내려받아 연구뿐 아니라 상업적 서비스와 제품 개발에도 사용할 수 있다.

크래프톤은 모델을 지속적으로 개선해 정식 버전을 내고, 출시 시 학습 과정과 최종 성능을 담은 기술 보고서도 공개할 계획이라고 밝혔다.

확인된 사실

  • 21일 라온-1 미니 프리뷰 공개
  • 크래프톤이 모델 설계와 학습 수행
  • 한국어·영어 지원
  • 전체 300억 매개변수 중 약 40억 개 활성화
  • 허깅페이스에 아파치 2.0 라이선스로 공개

보도한 곳

조선일보 · 뉴시스 · 매일경제 · 연합뉴스

여러 언론사의 보도를 바탕으로 정리한 글입니다. 자세한 내용은 각 언론사의 기사에서 볼 수 있습니다. 마지막 정리 10.21 15:30

0개의 댓글