네이버클라우드, 추론 모델도 상업용 무료 공개

[사진: 네이버클라우드]

[인포진 황치규 기자]네이버클라우드는 ‘프롬 스크래치(from scratch, 토대부터)’로 개발한 경량화 추론(reasoning)모델 ‘하이퍼클로바 X 시드 14B 싱크’(‘HyperCLOVA X SEED 14B Think를 상업용으로 이용할 수 있는 무료 오픈소스로 공개했다고 22일 밝혔다.

상용화된 해외 오픈소스 모델을 개조한 것이 아닌 원천기술로 추론 능력과 경량화 기술을 결합해 개발한 AI라고 회사측은 강조했다. 회사 측에 따르면 HyperCLOVA X SEED 14B Think는 지난달 30일 발표된 추론모델 HyperCLOVA X THINK를 경량화한 모델이다.

중요도가 낮은 파라미터를 가지치기(pruning)하되 원본 모델이 가진 지식을 최대한 보존시키고, 가지치기 과정에서 손실이 생긴 큰 모델 지식을 작은 모델에 전이(distillation)하는 방식으로 학습 비용을 크게 낮춘 것이 특징이라고 회사측은 설명했다.

회사 측에 따르면 HyperCLOVA X SEED 14B Think는 140억개 파라미터 규모 모델임에도 불구하고, 5억개 파라미터로 구성된 글로벌 오픈소스 모델보다 더 적은 비용(GPU Hours)으로 학습됐다. 동일 크기 글로벌 오픈소스 모델과 비교하면 1회 학습 비용은 약 100분의 1 수준이다.

적은 비용으로 학습된 모델이지만, 한국어·한국문화와 코딩·수학 관련 성능을 측정하는 평가들에서 동일 크기(140억) 또는 상대적으로 큰 규모(320억) 모델과 유사하거나 높은 평균 점수를 기록했다고 회사측은 강조했다.

네이버클라우드 하이퍼스케일(Hyperscale) AI 성낙호 기술 총괄은 “독자적 기술로 생성형 AI 모델을 꾸준히 업그레이드하면서 구축한 고성능 플래그십 모델과, 수많은 실험과 개선을 통해 설계한 효율적인 학습 전략을 바탕으로 동일 규모에서 비용·성능 등이 더 효과적인 추론모델을 구축할 수 있었다.”며 “해외 상용 모델을 개조한 기술로 그들의 생태계에 편입되기보다는, 토대부터 자체 기술로 구축한 하이퍼클로바X가 한국 AI 생태계의 본격적 성장을 이끌 수 있기를 기대한다.”고 말했다.

△인포진 텔레그램 뉴스채널 구독하기(클릭)