GPU·NPU 결합해 AI 추론 효율 검증…전력 절감 추진
4월 Arm 협력 이어 AI 데이터센터 기술 개발 확대

▲ 정석근 SKT CTO 겸 AI CIC장이 ‘소버린 AI 인프라’ 주제로 브리핑을 하고 있다 [SK텔레콤]

SK텔레콤이 엔비디아, 국내 인공지능(AI) 반도체 기업 리벨리온과 손잡고 국산 신경망처리장치(NPU)를 활용한 AI 데이터센터 시스템 개발에 나선다. 엔비디아의 그래픽처리장치(GPU)와 국산 NPU를 결합해 AI 추론에 필요한 전력과 운영비용을 줄이는 것이 목표다.

SK텔레콤은 9일 서울 코엑스에서 열린 ‘엔비디아 AI 데이 서울’에서 엔비디아, 리벨리온과 한국형 소버린 AI 인프라 구축을 위한 업무협약(MOU)을 체결했다고 밝혔다.

3사는 엔비디아의 반도체 연결 기술인 ‘NV링크 퓨전’을 활용해 리벨리온이 개발 중인 차세대 NPU ‘리벨 R200’을 엔비디아 플랫폼과 연결할 계획이다. 엔비디아의 서버 랙 설계 규격인 ‘MGX’를 적용해 GPU와 NPU를 통합한 시스템도 공동 개발한다.

핵심은 AI가 질문을 분석하는 단계와 답변을 생성하는 단계를 서로 다른 반도체가 처리하도록 하는 ‘분리형 추론’ 기술이다. 연산량이 많은 질문 분석은 GPU가 맡고, 답변 생성은 NPU가 담당하는 방식이다. 이를 통해 처리 속도와 전력 효율을 개선할 수 있는지 검증할 예정이다.

엔비디아에 따르면 리벨리온의 R200 기반 시스템은 2028년 실제 데이터센터에 배치할 수 있는 상태로 준비될 것으로 예상된다. 아직 구체적인 상용화 일정이나 시스템 도입 규모는 공개되지 않았다.

SK텔레콤은 개발된 통합 시스템을 자사 AI 데이터센터에 적용해 성능과 안정성을 검증할 계획이다. 이후 자체 AI 모델 ‘A.X K2’와 대국민 AI 서비스 등을 연결해 인프라부터 모델과 서비스까지 국내에서 운영할 수 있는 체계를 구축한다는 구상이다.

SK텔레콤은 앞서 지난 4월에도 Arm, 리벨리온과 CPU·NPU를 결합한 AI 추론 서버 개발에 협력하기로 했다. 당시에는 중앙처리장치(CPU)와 국산 NPU의 결합에 초점을 맞췄다면, 이번에는 엔비디아 GPU와 국산 NPU를 고속으로 연결하는 방향으로 협력 범위를 넓혔다.

이번 협력은 과학기술정보통신부가 추진하는 국산 AI 반도체 육성 정책과도 맞물려 있다. 3사는 시스템 개발과 데이터센터 실증을 거쳐 공공·민간 분야에서 활용할 수 있는 한국형 소버린 AI 인프라 구축을 추진할 방침이다.

 

토요경제 / 황세림 기자 hsr@sateconomy.co.kr 

[ⓒ 토요경제. 무단전재-재배포 금지]