메트로人 머니 산업 IT·과학 정치&정책 생활경제 사회 에듀&JOB 기획연재 오피니언 라이프 AI영상 플러스
글로벌 메트로신문
로그인
회원가입

    머니

  • 증권
  • 은행
  • 보험
  • 카드
  • 부동산
  • 경제일반

    산업

  • 재계
  • 자동차
  • 전기전자
  • 물류항공
  • 산업일반

    IT·과학

  • 인터넷
  • 게임
  • 방송통신
  • IT·과학일반

    사회

  • 지방행정
  • 국제
  • 사회일반

    플러스

  • 한줄뉴스
  • 포토
  • 영상
  • 운세/사주
IT/과학>IT/인터넷

SKT, 독자 구축 LLM '에이닷 엑스 3.1 라이트' 오픈소스 공개

사진은 A.X 4.0의 대규모 학습(Continual Pre-Training, CPT)을 진행한 SK텔레콤 자체 구축 슈퍼컴퓨터 '타이탄' /SK텔레콤

SK텔레콤은 11일 오픈소스 커뮤니티 허깅페이스에 독자 구축 초거대언어모델(LLM)인 'A.X(에이닷 엑스) 3.1 라이트'를 공개했다고 밝혔다.

 

이번에 공개한 A.X 3.1 라이트는 SK텔레콤이 프롬 스크래치(From Scratch) 방식으로 모델 구축과 데이터 학습 등 전 단계를 직접 진행했다. 70억개(7B)의 매개변수를 기반으로 하는 경량 모델이다.

 

A.X 3.1 라이트는 기존 에이닷 전화 통화요약에 적용했던 A.X 3.0 라이트 모델의 업그레이드 버전이다. 전작의 강점인 경량화된 성능과 높은 효율성을 이어받았다. 이러한 장점은 정보 처리 용량, 소비 전력 등 다양한 사양의 모바일 기기에서 최적의 품질을 구현할 수 있도록 해 기업들의 원활한 서비스 제공에 기여할 수 있을 것으로 기대된다.

 

또한 A.X 3.1 라이트는 같은 규모의 매개변수를 바탕으로 하는 자매 LLM인 'A.X 4.0 라이트'와 동등한 수준의 우수한 한국어 처리능력을 갖췄다.

 

대표적인 한국어 능력 평가 벤치마크인 KMMLU에서 A.X 3.1 라이트(61.70)는 A.X 4.0 라이트(64.15)대비 96% 수준의 성능을 나타냈다. 한국어 및 한국 문화 벤치마크인 CLIcK에서는 A.X 3.1 라이트(71.22)가 A.X 4.0 라이트(69.97) 대비 102% 수준의 성능을 기록했다.

 

SK텔레콤은 향후 보유 LLM을 꾸준히 오픈소스로 공개할 예정이다. A.X 3.1 라이트 후속인 매개변수 340억개(34B)의 프롬 스크래치 모델 'A.X 3.1' 역시 이달 중 발표를 앞두고 있다.

 

아울러 SK텔레콤은 프롬 스크래치 방식 개발 등 LLM 관련 기술 역량을 지속 고도화한다는 방침이다.

 

앞으로도 A.X 3 계열의 소버린 AI 모델로 자생력 있는 기술을 갖추고, 동시에 최적화된 성능·효율이 필요한 영역에는 대규모 학습(CPT)에 기반한 A.X 4 계열 모델을 활용한다.

 

이러한 투 트랙 전략을 통해 국내 기업들이 각자의 환경에서 AI 기술을 보다 쉽게 활용할 수 있는 다양한 선택지를 제공한다는 계획이다. 또한 기존 모델의 성능을 대폭 혁신할 수 있도록 GPU(그래픽처리장치) 자원을 확충하고 개발 역량을 높여 나간다.

 

트위터 페이스북 카카오스토리 Copyright ⓒ 메트로신문 & metroseoul.co.kr