▲ NC AI가 엔씨소프트의 고객 상담 챗봇 서비스 ’NCER(엔써)’에 자체 개발한 AI 안전성 기술 ‘Safeguard’를 정식 적용했다고 30일 밝혔다. <사진=NC AI>

[토요경제 = 최영준 기자] NC AI가 엔씨소프트의 고객 상담 챗봇 서비스 ‘NCER(엔써)’에 자체 개발한 AI 안전성 기술 ‘Safeguard’를 정식 적용했다고 30일 밝혔다.

이는 국내 AI 기업 중 최초로 종합적인 AI Safety 시스템을 상용 서비스에 도입한 사례다. NC AI는 전 세계적으로 AI 안전성에 대한 우려가 높아지는 가운데 선제적 대응에 나선 것으로 평가된다.

Safeguard는 레드팀·블루팀·퍼플팀으로 구성된 삼중 보안 체계를 기반으로 운영된다. 레드팀은 Jailbreaking 등 새로운 공격 패턴을 연구하고, 블루팀은 방어 기술을 개발한다. 퍼플팀은 두 결과를 종합해 정책에 반영하는 순환 구조다.

NC AI는 퍼블리싱코디네이션 센터와 협업해 게임 업계 특성을 반영한 ‘챗봇 네거티브 규제 정책’을 수립했으며, 이는 게임 서비스 내 부적절한 내용과 유료 재화 편법, 금지 행위 등을 차단하는 산업 맞춤형 보안으로 확장됐다.

NCER는 2024년 AI 기술과 게임 데이터 기반 CS 효율화 및 고객 만족도 제고를 위해 도입된 서비스로, 주요 게임에서 이용자들의 실시간 문의와 버그 제보, 건의사항 접수를 담당하고 있다.

이번 Safeguard 적용으로 차별·혐오·욕설·외설 등 일반적 부적절 콘텐츠 차단 기준을 충족하는 동시에, 게임 산업 고유의 안전 요구까지 반영하게 됐다. 실시간 대화 환경에서 위험 상황을 탐지하고 즉시 차단하는 성능도 입증됐다.

NC AI는 2022년부터 ‘NC AI Ethics Framework’를 운영하며 데이터 프라이버시, 편향 방지, 투명성을 핵심 가치로 하는 윤리 경영을 실천해 왔다.

실제 서비스에서도 ‘리니지W’와 ‘리니지2M’에 13개 언어 광고 패턴을 탐지·차단하는 스팸 필터링을 적용, 채팅 환경의 건전성 확보에 기여하고 있다. 향후에는 Vision-Language Model 기반 멀티모달 탐지로 확장해 이미지와 동영상까지 차단하는 차세대 시스템을 구축할 계획이다.

올해 2월 독립 법인으로 분사한 NC AI는 반년 만에 정부 주관 ‘독자 AI 파운데이션 모델 프로젝트’ 주관사로 선정됐다. ETRI, KAIST, 서울대, 고려대 등 주요 연구기관과 포스코DX, 롯데이노베이트 등 산업계 파트너가 참여하는 54개 기관의 ‘그랜드 컨소시엄’에서 AI Safety 기술 개발을 주도하고 있다.

또 에이아이웍스와 함께 전쟁·폭력·차별·허위정보 등 고위험 상황 대응 데이터셋을 구축해 국가 차원의 AI 안전 표준 확립에도 기여하고 있다.

기술 역량은 게임을 넘어 산업 전반으로 확산되고 있다. 감정형 음성합성, 자연어 처리, 3D 비전 로보틱스 등 다양한 기술을 보유한 NC AI는 신작 RPG ‘아이온 2’에 자연어 기반 애니메이션 생성과 감정 표현이 가능한 TTS 기술도 적용했다.

이번 발표는 국내 AI 업계에서 안전성 기술의 중요성을 재확인하는 계기가 될 전망이다. 향후 다른 기업들의 안전성 기술 도입에도 영향을 미칠 것으로 예상된다.

이연수 대표는 “이번 Safeguard 기술 적용은 NC AI가 AI 안전성 분야에서 기술적 우위를 확보하고, 책임감 있는 AI 개발 기업으로서의 위치를 공고히 하는 중요한 출발점”이라며 “앞으로도 기술 독립과 산업 실증, 글로벌 공헌을 동시에 실현하는 대한민국 AI 전문 기업으로서의 소명을 다할 것”이라고 강조했다.

토요경제 / 최영준 기자 cyj@sateconomy.co.kr 

[ⓒ 토요경제. 무단전재-재배포 금지]