SKT-Arm-리벨리온, AI 추론 효율 높이는 데이터센터 협력

SK텔레콤, 영국 반도체 기업 Arm, 국내 AI 반도체 스타트업 리벨리온이 10일 AI 추론 최적화 데이터센터 협력 의향서(MOU)를 체결했다.

AI 산업의 패러다임이 AI 모델 개발 중심의 '학습'에서 실제 서비스 제공을 위한 '추론(Inference)'으로 변화하며, 적은 전력으로 빠르고 저렴하게 AI 서비스를 제공하는 효율성 확보가 중요해졌다. AI 추론 작업에서 그래픽처리장치(GPU) 대신 신경망처리장치(NPU)가 새로운 대안으로 부상한다.

3사는 Arm의 'Arm AGI CPU'와 리벨리온의 '리벨카드' NPU를 서버에 탑재하는 솔루션을 공동 개발한다. 이 솔루션은 CPU가 데이터 흐름과 시스템 운영을 총괄하고 NPU가 AI 추론 연산을 전담하는 구조로, 시스템 성능과 효율을 높인다.

3사는 개발된 솔루션을 SK텔레콤 AI데이터센터(AIDC)에서 실증할 계획이며, SK텔레콤은 해당 서버로 자체 개발 AI 파운데이션 모델인 '에이닷엑스 케이원(A.X K1)'을 운영하는 방안도 검토 중이다.

Arm과 리벨리온은 지난달 'Arm 에브리웨어' 행사에서 두 칩을 결합한 AI 서비스를 시연해 상용화 가능성을 제시했다.

Arm 클라우드 AI 사업부 GTM 부사장은 "AI 추론의 급속한 성장이 새로운 데이터센터 인프라 수요를 촉진하고 있으며, SK텔레콤, 리벨리온과의 파트너십이 AI 추론 인프라 현대화에 중요한 역할을 한다"고 밝혔다. 리벨리온 최고 기술 관리자(CTO)는 "이번 협력이 AI 특화 인프라 구축을 위한 업계의 선례가 될 것"이라고 말했다.

본 기사는 AI가 생성하였으며, 사람이 검수한 기사입니다.