리벨리온, SKT 초거대 AI 'A.X K1' 국산 NPU 서버 구동 성공

단일 서버로 500B 규모 모델 처리… 인프라 효율성 입증

AI 반도체 스타트업 리벨리온이 SK텔레콤의 초거대 AI 파운데이션 모델 'A.X K1'을 자체 개발한 NPU 서버에서 성공적으로 구동했다고 23일 밝혔다. 이번 성과는 5,000억 개 이상의 파라미터를 가진 대형 모델을 단일 서버로 처리하며 데이터센터의 자원 소모와 운영 복잡성을 줄여 인프라 효율성을 입증했다는 평가다.

이번 실증은 리벨리온의 고성능 AI 반도체 제품인 '리벨서버'와 SK텔레콤의 'A.X K1' 모델 간 기술 최적화를 통해 초거대 AI 운영의 '인프라 효율성'을 극대화하는 데 초점을 맞췄다. 리벨리온은 500B 규모의 대형 언어 모델을 자사 서버에서 안정적으로 실행하며 글로벌 고성능 GPU 서버에 준하는 인프라 역량을 확보했다고 설명했다. 이는 대규모 AI 인프라 서비스 구축 및 운영 부담을 줄여 서비스 경쟁력으로 이어질 수 있다.

'A.X K1'은 효율성이 높은 MoE(Mixture of Experts) 구조를 기반으로 하며, 리벨리온은 이러한 모델 지원과 함께 전용 소프트웨어를 최적화했다. 특히 다양한 연산을 칩에 효율적인 방식으로 나누어 병렬 처리하는 분산 기술을 구현해 단일 서버에서도 수많은 사용자 요청을 병목 현상 없이 실시간으로 처리할 수 있도록 했다.

리벨리온은 이번 실증을 통해 '지도(Map)형 에이전트 서비스' 데모를 선보이며 실제 활용 가능성을 증명했다. 여러 사용자가 동시에 접속해 일상적인 질문을 던져도 'A.X K1'이 병목 현상 없이 실시간으로 처리하고 지도 위에 결과를 표시하는 시연을 보였다. 이는 국산 AI 기술 조합만으로도 다수의 사용자가 동시에 이용하는 실생활 공공 AI 에이전트 서비스를 안정적으로 지원할 수 있음을 보여준다.