더 나은 업무 환경을 제공하는 디지털 비즈니스 플랫폼 서비스나우(ServiceNow)는 생성형 인공지능(AI) 솔루션 버추얼 에이전트용 '나우 어시스트(Now Assist for Virtual Agent)'를 지난 13일(현지시간) 출시했다.

버추얼 에이전트용 나우 어시스트는 보다 지능적인 셀프 서비스를 위한 진정한 대화형 환경을 구성할 수 있도록 설계됐다. 버추얼 에이전트용 나우 어시스트는 고객이 대규모 인텔리전스를 쉽게 활용하고 디지털 워크플로우를 간소화, 최적화할 수 있도록 나우 플랫폼 전반에 걸쳐 생성형 AI를 내장한다는 서비스나우의 전략을 기반으로 하며, 최근 서비스나우의 대표적인 행사인 날리지(Knowledge)에서 발표된 바 있다.

빌 맥더멋(Bill McDermott) 서비스나우 CEO는 “서비스나우는 지난 수년간 쌓아온 AI 투자에 기반해 인텔리전스 시대라는 거부할 수 없는 움직임을 선도하는 기업으로 자리매김했다”며, “서비스나우는 고객이 ‘인텔리전스에 대한 수익’이라는 투자자본수익률(ROI)을 극대화할 수 있도록 서비스나우의 플랫폼에 생성형 AI를 구축하고있다”고 밝혔다.

또한 “이는 기계의 속도와 인간의 판단 사이의 균형을 찾기 위한 사려 깊고 신뢰도 높은 공동 혁신에 관한 것으로, 엔비디아 및 마이크로소프트와의 전략적 파트너십을 통해 더욱 스마트해지고 완전히 자동화된 워크플로우를 설계하게 된 것”이라며, “엔드투엔드 디지털 트랜스포메이션을 위한 지능형 플랫폼인 서비스나우를 통해 고객이 완전히 새로운 비즈니스 모델을 구축할 수 있도록 지원한다”고 덧붙였다.

버추얼 에이전트용 나우 어시스트는 생성형 AI를 사용해 질문에 보다 직접적이고 관련성 높은 대화형 답변을 제공하며, 나우 플랫폼 전반의 디지털 워크플로우에 대한 교환을 연결한다.

사용자가 버추얼 에이전트용 나우 어시스트에 질문을 하면 대화 중에 생성형 AI를 사용해 제품 및 엔지니어링 팀을 위한 내부 코드, 제품 이미지 또는 비디오, 문서 링크, 관련 지식 문서의 요약 등 사용자가 필요한 정보를 즉시 얻을 수 있도록 직관적인 답변을 제공한다.

서비스나우는 여러 부서와 시스템에 걸쳐 작동하기 때문에 사용자가 누구에게 문의해야 할지, 어디서부터 시작해야 할지 모르는 경우에도 버추얼 에이전트용 나우 어시스트를 통해 정확하게 소통할 수 있어 생산성을 높이고 자체 해결율을 높이며 문제를 더 빠르게 해결할 수 있다.

CJ 데사이(CJ Desai) 서비스나우 최고 운영 책임자(COO)는 “버추얼 에이전트용 나우 어시스트는 서비스나우가 이미 선보이기 시작한 생성형 AI기능을 유기적으로 보완하는 강력한 기능”이라며, “나우 플랫폼에 생성형 AI를 도입함으로써 고객이 생산성을 획기적으로 개선하고 엔터프라이즈급 AI의 진정한 잠재력을 실현할 수 있도록 지원한다”고 밝혔다.

고객은 버추얼 에이전트용 나우 어시스트는 가상 에이전트 디자이너(Virtual Agent Designer)를 사용하여 로우코드 드래그 앤 드롭(drag-and-drop) 환경에서도 가상 에이전트의 생성형 AI로 구동되는 지능형 대화 환경을 쉽게 구성하며, 애저 오픈AI 서비스 대형언어모델(LLM) 또는 오픈AI API같은 범용 LLM에 대한 직접 접속을 내장해 최종 사용자가 올바른 정보를 찾기 위해 여러 지식 기반 문서를 샅샅이 살펴볼 필요 없이 필요에 따라 일반 답변을 안전하게 보강 가능하다.

또한 실시간 대화를 통해 사용자 질문에 대한 직접적인 답변을 받고, 텍스트, 링크, 이미지, 동영상, 관련 지식 문서 등 답변에 가장 적합한 형식의 정보를 제공하며, 가상 에이전트를 통해 보다 연관성이 높으며 상황에 맞는 대화형 셀프 서비스 경험 제공한다.

버추얼 에이전트용 나우 어시스트는 최근 발표된 서비스나우 생성형 AI 컨트롤러(ServiceNow Generative AI Controller) 기능으로 구동된다. 서비스나우 생성형 AI 컨트롤러는 나우 플랫폼상의 모든 생성형 AI 기능을 기반으로 하며, 이를 통해 서비스나우 인스턴스를 마이크로소프트 애저 오픈AI 서비스 LLM과 오픈AI 서비스 LLM에 연결해 빠르고 지능적인 워크플로우 자동화를 수행할 수 있다.

서비스나우 생성형 AI 컨트롤러에 버추얼 에이전트용 나우 어시스트와 함께 긴밀하게 연동되어 있는 검색용 나우 어시스트는 나우 플랫폼 전반에 걸쳐 생성형 AI 경험을 제공한다. 검색형 나우 어시스트는 고객 환경 내에서 정보를 가져온다. 이로 인해 나우 플랫폼 내에서 강력한 보안 계층이 적용돼 오류 및 허위 정보의 가능성을 줄여 더 정확한 결과를 고객에게 제공할 수 있다.

한편, 서비스나우는 수년간 AI에 투자해 왔으며, 디지털 워크플로우를 즉시 간소화하고 최적화할 수 있도록 나우 플랫폼에 AI를 내장했다. 최근 발표된 서비스나우의 다른 생성형 AI 혁신에는 엔비디아와의 파트너십을 통해 워크플로 자동화를 위한 맞춤형 LLM을 개발했으며, IT 부서, 고객 서비스 팀, 직원 및 개발들이 생성형 AI를 사용하는 사례에도 추가했다.

또한 서비스나우는 허깅 페이스(Hugging Face)와의 파트너십을 통해 오픈 액세스, 오픈 과학, 오픈 거버넌스를 지원하는150억 개의 파라미터를 갖춘 스타코더 LLM(StarCoder LLM)을 발표하여 빅코드 커뮤니티를 대신해 생성형 AI를 보다 투명하고 쉽게 이용할 수 있도록 했다.

버추얼 에이전트용 나우 어시스트 및 검색용 나우 어시스트는 일부 고객에게 제한적으로 출시됐으며, 2023년 9월 밴쿠버 릴리스를 통해 정식으로 제공될 예정이다.