▲ 이미지=퀄컴 제공

 

퀄컴이 미국 시애틀에서 열린 ‘마이크로소프트 빌드2023(MS 개발자 회의)’에서 생성형 AI를 PC, 노트북, 휴대전화 등 기기에서 직접 구현하는 온디바이스용 '스냅드래곤 컴퓨팅 플랫폼'을 발표했다고 25일 밝혔다.

퀄컴은 MS 개발자 회의에서 스냅드래곤이 탑재된 윈도우 11 PC용 애플리케이션 개발에 새로운 가능성을 제시했다.

지아드 아즈가(Ziad Asghar) 퀄컴 제품 관리 수석부사장은 “퀄컴의 최고급 AI 하드웨어와 소프트웨어는 개발자들이 AI 기술을 활용해 스냅드래곤이 탑재된 노트북,휴대폰 및 기타 디바이스 상에서 놀라운 사용자 경험을 선사할 것”이라고 전했다.

퀄컴은 향후 수개월 이내에 100억 개 이상 매개 변수를 보유한 거대 언어 모델(LLM)을 단말기 상에서 운영 가능할 것으로 예상했다.

미래의 AI는 온디바이스와 클라우드를 모두 포괄해야 한다. AI 애플리케이션을 온디바이스로 운영하면 비용 효율성, 보안, 개인화, 지연 문제 등에서 개선이 이뤄져야한다.

또, 전용 AI 엔진을 장착한 스냅드래곤 플랫폼이 AI 기능을 얇고 작은 기기에서도 구현해 중앙처리장치(CPU) 또는 그래픽처리장치(GPU)에 의존하는 것보다 처리 효율성이 높다고 설명했다.

퀄컴은 이번 MS 개발자 회의에서 퀄컴 AI 엔진 다이렉트 SDK(Qualcomm AI Engine Direct SDK)도 최초로 개방했다. ONNX 런타임과 퀄컴 AI 스택을 바탕으로 서피스 프로9 5G와 레노버 씽크패드 x13s에서 스냅드래곤 8cx Gen3 AI 엔진을 이용해 AI 워크로드를 처리할 수 있다.

 

토요경제 / 최영준 기자 cyj@sateconomy.co.kr 

[ⓒ 토요경제. 무단전재-재배포 금지]