지난 수년간, 기업들은 급변하는 수요부터 인력난, 공급망 복잡성을 비롯한 수많은 과제를 해결해왔다.

2023년을 준비하는 많은 기업들은 비용을 절감하면서 동시에 성장을 견인하기 위해 AI와 가속 컴퓨팅의 사용을 계획하고 있는 가운데 엔비디아가 엔드투엔드의 안전한 클라우드 네이티브 AI 소프트웨어의 한층 진화된 '엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)' 소프트웨어 제품군 3.0을 7일(현지시간) 발표했다. 

지난해 8월 엔비디아 AI 엔터프라이즈 첫 출시에 이은 이 새로운 엔비디아 AI 엔터프라이즈 소프트웨어는 일찍이 AI를 도입한 기업부터 새롭게 그 도입을 계획하고 있는 기업까지 광범위한 영역과 산업별 워크로드에 걸쳐 전 세계 기업들을 지원한다.  

엔비디아 AI 엔터프라이즈 3.0은 50개 이상의  AI 프레임워크 및 사전 훈련된 모델에 대한 지원은 물론 인공지능 컨택센터(AICC) 지능형 가상 비서, 음성 전사(transcription), 사이버보안 디지털 지문 채취를 위한 솔루션 등의 워크플로를 지원한다. 

이 워크플로는 NVIDIA AI 프레임워크와 사전 훈련된 모델은 물론 Helm 차트, 쥬피터(Jupyter) 노트북 등을 사용하여 클라우드 네이티브 마이크로서비스로 실행된다. 기업은 마이크로 서비스를 독립 실행형 쿠버네티스(Kubernetes) 컨테이너로 배포하거나 다른 서비스와 결합하여 보다 정확하고 성능이 뛰어난 프로덕션 준비 애플리케이션을 만들 수 있다.

기업들은 엔비디아 컨택 센터 지능형 가상 비서 AI 워크플로를 통해 24시간 내내 고객에게 응답함으로써 대기시간을 줄일 수 있다. 또한 컨택 센터 에이전트가 보다 복잡한 문의에 대응할 수 있도록 시간을 벌어준다. 

중요한 것은, 이 모든 것이 비용 절감과 동시에 일어난다는 것이다. 기업들은 워크플로를 통해 자연스러운 목소리로 정확하면서도 맞춤화 된 응답을 제공하는 에이전트를 개발할 수 있다. AI 기술을 활용하면 에이전트들은 음성 품질이 떨어지는 통화에서도 고객의 응답을 정확하게 듣고 이해할 수 있다. 

엔비디아 음성 전사 AI 워크플로를 사용하면, 기업들은 엔비디아의 자동 음성인식 기술을 통해 영어, 스페인어, 중국어, 인도어, 러시아어, 한국어, 독일어, 프랑스어 그리고 포르투갈어로 정확한 대본을 신속하게 작성할 수 있으며 조만간 일본어, 아랍어, 이탈리아어가 추가될 예정이다. 

음성 전사 워크플로는 완전한 사용자화가 가능한 GPU 최적화 모델을 사용하여 실시간의 정확도로 보다 나은 이해, 맥락에 대한 통찰력, 감정 분석을 가능케 한다. 음성 전사가 완료되면 기업들은 이를 통해 제품 개발을 개선하고 컨택 센터 에이전트의 교육에 속도를 낼 수 있다. 

비지도 학습(unsupervised learning)을 사용하는 엔비디아 디지털 지문 AI 워크플로는 위협 탐지 기능을 통해 포괄적인 데이터 가시성을 달성한다. 또한 기업이 네트워크를 통해 모든 사용자, 서비스, 계정 및 컴퓨터를 고유하게 지문 인식하여 비정상적인 동작을 탐지할 수 있도록 지원함으로써 보안을 향상시킨다. 

워크플로우는 지능적인 경고와 실행 가능한 정보를 제공하여 기존에 몇 주 가까이 소요되던 탐지시간을 분(分) 단위까지 단축한다. 따라서 보안 분석가는 위협을 신속하게 식별하고 대응할 수 있다. 

특히, 엔비디아 AI 엔터프라이즈 3.0은 암호화되지 않은 설명 가능성과 이해를 돕는 사전 훈련 모델  사전 훈련 모델과 최신 버전의 엔비디아 타오 툴킷(TAO Toolkit)의 소스 코드를 제공한다. 엔비디아 타오 툴킷은 고도의 정확성을 갖춘 맞춤형, 프로덕션 레디(production-ready) AI 모델을 만들기 위한 로코드(low-code) AI 개발 솔루션으로, 음성 및 컴퓨터 비전 AI 애플리케이션에 사용된다. 

암호화되지 않은 모델은 엔비디아 AI 엔터프라이즈에서만 사용할 수 있으며 병리 종양 감지, 사람 감지, 차량 감지, 자세 추정, 동작 인식 등 의료와 스마트 시티, 유통 산업을 위한 다양한 이미징 및 비전 AI 작업을 지원한다.  

암호화 없이 사전 훈련된 모델을 사용하면 개발자가 모델의 가중치와 편향을 볼 수 있어 모델 설명 가능성과 모델 편향 이해에 도움이 된다. 또한 암호화되지 않은 모델은 보다 쉬운 디버그(debug)와 맞춤형 AI 애플리케이션에 대한 통합이 가능하다. 

한편, 엔비디아 AI 엔터프라이즈 라이선스는 델테크놀로지스(Dell Technologies), 휴렛 팩커드, 레노보(Lenovo), 슈퍼마이크로(Supermicro) 등 엔비디아 H100 PCIe GPU를 사용하는 엔비디아 파트너의 서버에도 포함돼 있다. 

이를 통해 전 세계 기업 및 기관들의 AI 구축을 보다 쉽고 빠르게 구축 및 배포 할 수 있다. 엔비디아 AI 엔터프라이즈 3.0은 이 달 말 출시 예정이다. (아래는 엔터프라이즈 3.0 소개 영상)