KT클라우드, AI 추론 특화 인프라 서비스 ‘AI SERV’ 출시

IT·플랫폼 / 최영준 / 2023-10-16 09:45:58
▲ 사진=KT

 

AI 추론에 특화된 고성능 GPU 인프라를 사용량에 맞게 보다 합리적인 비용으로 활용할 수 있게 됐다.

kt cloud는 GPU(Graphic Processing Unit, 그래픽처리장치)에 슬라이싱(Slicing) 기술을 적용한 AI 추론 전용 인프라 서비스 ‘AI SERV’를 출시했다고 16일 밝혔다.

kt cloud가 이번에 출시한 AI SERV는 AI 개발, 학습을 마치고 AI 서비스를 제공 중인 AI 전문기업, 스타트업 등이, 고성능 GPU 인프라를 각 서비스에 필요한 만큼만 분할해 최적의 양을 사용할 수 있는 것이 특징이다.

AI SERV에 적용된 슬라이싱 기술은 기존에 한 장으로 제공되던 GPU 서비스를 5분할해 0.2장 단위로 제공한다. 최소 사용 가능한 GPU 단위가 작아진 만큼 필요한 때 필요한 만큼의 인프라를 사용할 수 있어 가격 부담이 줄어든다.

또 기존의 슬라이싱 기술은 분할된 단위의 GPU에서 성능 열화가 발생할 수 있다는 단점이 있었지만, AI SERV는 슬라이싱 분할에도 성능 열화 없이 인프라를 100% 활용할 수 있다.

kt cloud는 향후 AI SERV에 사용자의 손쉬운 인프라 확장 지원을 위한 모니터링 및 컨테이너 이미지 클로닝(Cloning) 기능 등을 추가하는 한편, 부하 발생 시 인프라를 자동 확장시키는 ‘오토 스케일링’ 기능을 도입하는 등 서비스를 지속적으로 고도화해 나갈 계획이다.

윤동식 kt cloud 대표는 “이번 AI SERV 출시로 고객들이 AI 학습부터 추론, 서빙 환경 구성까지 각 단계에서 최적의 인프라를 보다 합리적인 비용으로 사용할 수 있게 됐다”며 “다양한 AI 전문기업, 스타트업들이 부담 없이 AI 인프라를 활용하도록 힘쓰는 한편, 국내외 파트너사와 협력해 초거대 AI 산업의 활성화 및 생태계 확장을 위해 노력하겠다”고 말했다.

 

토요경제 / 최영준 기자 cyj@sateconomy.co.kr 

[ⓒ 토요경제. 무단전재-재배포 금지]

최영준
최영준 안녕하세요. '토요경제' 최영준 입니다.
기자 페이지

기자의 인기기사

뉴스댓글 >

    많이 본 기사

    1
    SK에코플랜트, AI·반도체 82% 됐다…12월 합병 시험대는 '본체 이익'

    SK에코플랜트, AI·반도체 82% 됐다…12월 합병 시험대는 '본체 이익'

    SK에코플랜트의 사업 중심은 이미 건설에서 AI·반도체로 옮겨갔다. 12월 SK에코엔지니어링 합병을 앞두고 다음 과제는 커진 외형을 본체의 안정적인 이익으로 연결하는 데 있다.8일 SK에코플랜트의 재무자료와 회사 자료를 종합하면 올해 상반기 연결 매출은 10조504억원, 영업이익은 1조4650억원이다. 2분기에만 매출 5조1507억원, 영업이익 5336억원

    2
    두산건설, 도시정비 4조 돌파…수주 늘리고 원가율 낮춰

    두산건설, 도시정비 4조 돌파…수주 늘리고 원가율 낮춰

    두산건설이 도시정비사업 수주를 4조원대로 끌어올렸다. 상반기 이후 1조3000억원 넘는 시공권을 추가하면서도 기존 사업장의 원가율을 낮춰 수익성을 함께 개선했다.7일 건설업계에 따르면 두산건설은 올해 현재까지 13개 도시정비 사업장에서 총 4조110억원 규모의 시공권을 확보했다. 서울과 수도권의 민간 재개발·재건축뿐 아니라 공공재개발과 도심 공공주택 복합사

    3
    iM뱅크·SBI저축은행도 공격…금감원 8월부터 금융권에 경고

    iM뱅크·SBI저축은행도 공격…금감원 8월부터 금융권에 경고

    최근 금융권을 겨냥한 사이버 공격이 본격화하기 전부터 금융감독원이 국가배후 해킹조직의 공격 징후를 포착해 금융회사에 보안 강화를 요구했던 것으로 확인됐다. 이후 iM뱅크와 SBI저축은행 등에도 실제 공격이 이어지면서 금융당국의 사전 경고가 개별 금융회사의 보안체계에서 얼마나 제대로 작동했는지가 후속 점검 대상으로 떠올랐다.8일 국회 정무위원회 손명수 의원실

    4
    아워홈·오뚜기·SPC·동서식품, 하반기 신입 채용…식품업계 인재 확보

    아워홈·오뚜기·SPC·동서식품, 하반기 신입 채용…식품업계 인재 확보

    아워홈과 오뚜기를 비롯한 식품·외식업체들이 하반기 신입사원 채용에 나섰다. 영업과 마케팅부터 연구개발(R&D), 생산, 영양사·조리사까지 모집 분야도 다양하다.8일 업계에 따르면 오뚜기는 오는 15일까지 2026년 하반기 대졸 신입사원과 외국인 유학생 지원서를 접수한다.모집 분야는 B2C영업과 B2B영업·마케팅, 홍보영양, 마케팅, 영업지원, 글로벌

    5
    삼성SDI, 하루에 배터리 양끝 잡았다…LFP 6조·전고체 2027년

    삼성SDI, 하루에 배터리 양끝 잡았다…LFP 6조·전고체 2027년

    삼성SDI가 같은 날 LFP와 전고체 배터리 공급망을 동시에 강화했다. 빠르게 커지는 에너지저장장치(ESS) 시장에는 대규모 LFP 소재를 확보하고, 차세대 전고체 배터리에서는 2027년 양산을 뒷받침할 핵심 소재 개발에 들어갔다.6일 배터리업계에 따르면 삼성SDI는 포스코퓨처엠과 2027~2032년까지 약 6조원 규모의 LFP 양극재 장기 공급계약을 체결

    SNS