▲ 왼쪽부터 이억원 금융위원장, 티냅스 강민승 대표, KB국민은행 관계자가 기념촬영을 하고 있다[KB국민은행]

생성형 AI가 금융권 업무 현장으로 빠르게 확산하고 있다. 은행권은 생성형 AI를 상담과 업무 지원 등 다양한 영역으로 확대 적용하고 있다. 하지만 AI가 사실과 다른 정보를 생성하는 ‘환각(Hallucination)’ 현상도 금융권의 새로운 과제다.

이 같은 고민에 대한 해법이 지난 24일 서울 마포구에서 열린 ‘스타트업 OI(오픈이노베이션) #금융권’ 행사에서 공개됐다.

KB국민은행과 AI 스타트업 티냅스는 생성형 AI 기반 ‘금융상담 에이전트’의 신뢰도를 높이기 위한 ‘실시간 답변 품질 평가 및 통제 시스템 구축’ 사례를 발표해 금융위원장상인 ‘올해의 협력상’을 수상했다. 

이번 행사는 디캠프와 한국핀테크지원센터가 공동 주최했으며, 총 44건의 협력 사례 가운데 사전 심사를 거쳐 선정된 5개 팀이 발표를 진행했다.

생성형 AI는 그럴듯한 형태로 사실과 다른 답변을 생성하는 환각 현상은 금융 서비스에서 특히 중요한 위험 요소로 꼽힌다. 금융상품 설명이나 업무 규정 해석처럼 정확성이 요구되는 영역에서는 AI의 오답이 소비자 안내 오류나 업무 혼선으로 이어질 수 있기 때문이다. 이에 따라 생성형 AI를 실제 업무에 활용하기 위해서는 답변의 정확성과 신뢰성을 높이는 기술 확보가 중요해지고 있다.

KB국민은행과 티냅스가 공동으로 수행한 과제는 생성형 AI가 만든 답변을 실시간으로 평가하고 검증하는 체계를 구축하는 데 초점을 맞췄다. 양사는 KB금융의 스타트업 육성 프로그램인 ‘KB 오픈이노베이션 프로그램’을 통해 금융상담 에이전트에 적용할 금융 특화 실시간 답변 평가 모델을 설계하고, RAG(검색증강생성) 기반 답변 신뢰성 검증 기술을 도입하는 공동 과제를 수행했다.

KB국민은행은 이를 통해 AI 환각 현상을 90% 이상 사전 차단해 오답 위험을 크게 줄였으며, 생성형 AI 기반 금융상담 에이전트의 안정성과 신뢰도를 높이는 성과를 거뒀다고 설명했다.

이번 사례는 KB금융의 스타트업 협업 프로그램인 KB 오픈이노베이션 프로그램을 통해 추진됐다. 이 프로그램은 스타트업이 KB금융 계열사와 함께 실제 사업 환경에서 기술을 검증할 수 있도록 실증(PoC) 기회를 제공하는 프로그램이다. 선정된 기업에는 1000만원의 PoC 지원금과 강남 HUB(위워크 신논현점) 프로젝트 공간이 제공되며, KB금융 계열사와 공동 과제를 수행하게 된다.

이번 협업은 KB 오픈이노베이션 프로그램을 통해 금융회사와 스타트업이 공동으로 생성형 AI의 답변 신뢰성을 높이는 기술을 검증한 사례다.

KB국민은행은 앞으로 수·여신과 퇴직연금 등 영업 현장의 핵심 상담 영역으로 금융상담 에이전트 활용 범위를 확대할 계획이다. 또 오답률을 최소화하기 위한 기술 고도화를 이어가며 고객에게 보다 정확한 금융 정보를 제공하는 시스템을 구축해 나갈 예정이다.

KB금융 관계자는 “스타트업의 혁신 기술과 금융회사의 전문성을 결합해 금융 현장의 과제를 해결한 사례”라며 “우수 스타트업과의 협업을 통해 금융산업 경쟁력 강화에 기여하겠다”고 말했다.

토요경제 / 김연수 기자 kys@sateconomy.co.kr 

[ⓒ 토요경제. 무단전재-재배포 금지]