인공지능(AI) 기업 스켈터랩스가 KB국민카드와 초거대 언어 모델(LLM) 기반 ‘이벤트 Q&AI’ 베타서비스를 25일 발표했다.

‘이벤트 Q&AI’은 KB국민카드와 KB페이(KBpay)에서 운영하는 이벤트를 자연스러운 대화로 찾아주는 질의응답 LLM 기반 서비스다. KB국민카드는 이벤트 Q&AI 서비스를 통해 매일 업데이트되는 수백가지의 이벤트에 대한 정확한 정보를 전달하여 유의미한 고객 경험을 혁신하고, 강화할 예정이다.

현재 이벤트 Q&AI 서비스는 KB페이 모바일앱을 통해 로그인하는 고객이라면 누구나 사용할 수 있다. 

KB국민카드는 고객이 이벤트에 참여하려면 직접 검색을 통해 정보를 탐색해야한다는 점에 착안하여 정확한 정보를 제공하기 위해 접근성이 높은 LLM 도입을 계획했다.

이벤트 Q&AI 서비스를 활용하면 KB국민카드는 고객의 불편사항을 신속하게 해소할 수 있고, 고객은 이벤트 Q&AI 환경 내에서 상담원과 대화하듯 자연스러운 다이얼로그를 통해 진행중인 이벤트의 상세정보를 확인하는 등 고객 친화적인 맞춤형 서비스를 제공할 수 있게 될 전망이다.

이벤트 Q&AI는 스켈터랩스의 LLM 기반 질의응답 챗봇 솔루션인 ‘벨라 큐나(BELLA QNA)’, 그리고 KB국민카드의 기업 이벤트 정보를 API로 연동하는 방식으로 진행됐다. 이벤트 Q&AI에 활용되는 스켈터랩스의 벨라 큐나는 기업들을 위한 맞춤형 LLM 솔루션으로 LLM의 할루시네이션을 최소화하고, 질문에 최적화된 답변을 생성하기 위해 ‘검색 증강 생성’(Retrieval Augmented Generation; RAG) 방식을 채택해 답변의 정확도를 혁신적으로 높였다.

해당 서비스는 자연스러운 대화를 통해 궁금증을 해소할 수 있도록 △어렵고 전문적인 기술 용어 사용을 최소화해 대화 흐름을 자연스럽게 유도하고 △추가 질문에 답변을 제공하며 △고객의 의도를 파악해 고객 중심의 대화를 이어갈 수 있도록 설계됐다.

스켈터랩스는 개발과정에서 LLM의 범용성과 데이터 융합이라는 목표를 세우고 실제 현장에서 활용 가능한 수준으로 설계하는 데 주안점을 뒀다. 챗GPT같은 범용 LLM 기반 챗봇은 학습하지 않은 정보에 대한 답변을 생성하는 데 어려움이 있어 기업에 최적화된 답변 제공이 어렵다.

그러나 이벤트 Q&AI 서비스는 이벤트 정보를 융합하는 방식으로 답변 생성 기능을 개선해 고객이 원하는 정보와 기업이 제공하고 싶은 정보의 간극을 줄여줄 수 있다. 

스켈터랩스 조원규 대표는 “다년간 기업과의 협업을 통해 얻은 노하우를 바탕으로 이번 KB국민카드 이벤트 Q&AI 서비스를 성공적으로 개발할 수 있었다”며, “LLM을 다루는 많은 기업들이 미래에 대한 가능성 혹은 비전 제시에 그쳤지만, 이번 스켈터랩스와 KB국민카드의 협업은 사람들에게 실질적으로 도움을 줄 수 있는 실용적인 대화형 AI 기술을 제공했다는 점에서 매우 고무적”이라고 덧붙였다. 

한편, 스켈터랩스는 국내 최고 수준의 대화형 인공지능 기술력을 갖춘 기업이다. 최근에는 LLM 도입 니즈가 있는 기업들의 디지털 전환을 지원하기 위해 기존에 주력해 온 기계독해(MRC) 및 대화형 AI 기술을 기반으로 초거대언어모델을 연구·개발·응용하는 사업 브랜드인 'BELLA(Business Empowering LLM Applications)'를 론칭하는 등 대화형 인공지능 기술의 확산을 주도하고 있다.