인공지능과 컴퓨팅이 광속으로 진화하고 있는 가운데 현지시간 21일, 엔비디아 젠슨 황(Jensen Huang) CEO는 2023 GTC 컨퍼런스 기조연설을 통해 "워프 드라이브 엔진은 가속 컴퓨팅이고 에너지원은 인공지능입니다"라며, "생성 AI의 인상적인 기능은 기업이 제품과 비즈니스 모델을 재구상해야 한다는 긴박감을 불러 일으켰습니다" 라고 현 상황을 함축했다.
이어 그는 AI 교육에서 배포, 반도체에서 소프트웨어 라이브러리, 시스템에서 클라우드 서비스에 이르기까지 차세대 혁신이 전 세계인의 손끝에 어떻게 전달될 것인지에 대해 설명했으며, 모든 산업에 AI를 제공한다고 밝혔다.
또한 가속화된 컴퓨팅과 AI의 도래는 무어의 법칙이 둔화되고 산업이 강력한 역학(지속 가능성, 생성 AI 및 디지털화)과 씨름하면서 적시에 도래한다고 말했다. 이어 그는 생성 AI 혁명의 시점인 2016년에 최초의 엔비디아 DGX AI 슈퍼컴퓨터를 오픈AI(OpenAI)에 직접 전달했다며. 이 슈퍼컴퓨터는 현재, 챗GPT(ChatGPT)를 지원하는 대규모 언어 모델(LLM) 혁신의 이면에 있는 엔진이라고 밝혔다.
특히, 그는 "작년 말에 출시된 ChatGPT는 거의 순식간에 주류가 되어 1억 명 이상의 사용자를 끌어들여 역사상 가장 빠르게 성장하는 애플리케이션이 되었습니다"라며, "챗GPT는 시작에 불과하며, 우리는 AI의 아이폰 순간에 있습니다(The iPhone moment of AI)"라고 비유했다.
아울러 LLM을 배포하는 핵심에는 새로운 추론 워크로드라며, ChatGPT와 같은 대규모 언어 모델 추론을 위해 듀얼 GPU NVLink가 있는 H100 NVL이라는 새로운 GPU를 발표했다. 엔비디아의 호퍼(Hopper) 아키텍처를 기반으로 하는 H100은 ChatGPT를 지원하는 GPT 모델과 같은 모델을 처리하도록 설계된 트랜스포머(Transformer) 엔진을 갖추고 있다. GPT-3 처리를 위한 HGX A100과 비교할 때 듀얼 GPU NVLink가 있는 4쌍의 H100이 있는 표준 서버는 최대 10배 더 빠르며 대규모 언어 모델 처리 비용을 대폭 줄일 수 있다.
엔비디아의 새로운 그레이스 호퍼(Grace Hopper) 슈퍼 칩은 그레이스 CPU와 호퍼 GPU를 고속 900GB/초의 일관된 칩 간 인터페이스를 통해 연결된다. 그레이스 호퍼는 추천 시스템 및 대규모 언어 모델을 위한 AI와 같은 거대한 데이터 세트를 처리하는 데 이상적이다.
아울러 강력한 생성 AI를 활용하려는 기업들의 가속화를 위해 도메인별 작업을 위한 독점 데이터로 훈련된 생성 AI 및 맞춤형 LLM을 구축, 개선 및 운영해야 하는 고객을 위한 클라우드 서비스 제품군인 엔비디아 AI 파운데이션(Foundations)를 발표했다. AI 파운데이션 서비스에는 맞춤형 언어 텍스트-텍스트 생성 모델 구축을 위한 엔비디아의 네모(NeMo)가 포함된다.
마지막으로 기업이 빠르게 떠오르는 생성 AI 모델을 배포할 수 있도록 돕기 위해 AI 비디오, 이미지 생성, LLM 배포, 추천 등을 위한 추론 플랫폼을 발표했다. 이 플랫폼은 엔비디아의 전체 추론 소프트웨어 스택을 최신 엔비디아 아다(Ada), 호퍼 및 그레이스 호퍼 프로세서(둘 다 이날 출시된 NVIDIA L4 Tensor Core GPU 및 NVIDIA H100 NVL GPU 포함)와 결합된다.
AI 비디오용 엔비디아 L4는 CPU보다 120배 더 높은 AI 기반 비디오 성능과 99% 향상된 에너지 효율성을 제공할 수 있으며, 이미지 생성용 엔비디아 L40은 그래픽 및 AI 지원 2D, 비디오 및 3D 이미지 생성에 최적화되어 있다.
대규모 언어 모델 배포를 위한 엔비디아 H100 NVL은 ChatGPT와 같은 대규모 LLM을 대규모로 배포하는 데 이상적이며, 추천 모델용 엔비디아 그레이스 호퍼는 그래프 추천 모델, 벡터 데이터베이스 및 그래프 신경망에 이상적이다.
한편, 이 글은 이날 온라인으로 진행된 젠슨 황 CEO의 기조연설 중 '생성 AI' 내용을 요약했으며, 그는 "우리는 세상이 불가능한 일을 하도록 돕고 있습니다."라며, 이날 연설을 마무리했다. 자세한 내용은 아래 영상을 참고하면 된다.