글로벌 퍼블릭 클라우드 및 엣지 컴퓨팅 기업인 지코어(Gcore)는 엔비디아 A100 및 H100 GPU로 구동되는 20개의 서버를 기반으로 하는 ‘생성 AI 클러스터(Generative AI Cluster)’를 구축했다.

클러스터는 올해 말까지 25개의 A100 및 128개의 H100 GPU 기반 서버를 추가할 예정이다. H100 텐서코어(Tensor Core) GPU는 엔비디아의 최신 데이터 센터급 AI 가속기로서 A100보다 최대 4배 빠른 AI 훈련 성능을 제공한다.

이 최첨단 인공지능 클라우드 인프라는 다양한 분야에서 생성 AI 모델을 비롯한 대규모 AI/ML 모델의 학습 및 추론과 고성능 컴퓨팅(HPC), 데이터 분석 등에 필요한 강력한 성능과 비용 효율적으로 사용자에게 제공한다.

지코어의 생성형 AI 클러스터는 스타트업부터 대기업에 이르기까지 폭넓은 사용자에게 최첨단 연구 시설(research facilities)에서 생성형 AI 모델 개발을 가속할 수 있도록 지원한다. 특히, 지코어는 전세계 IT 서비스 제공업체들의 성장동력인 AI 기술을 위한 하이엔드 인프라를 제공하는 주요 업체 중 하나다.

그러나 현재, 전 세계 AI 인프라의 대부분은 미국에 위치하고 있어, 유럽을 비롯한 다른 지역의 기업들은 복잡한 기술 과제를 해결하고 AI 프로젝트를 성공적으로 수행하기위한 혁신적인 네트워크가 부족하여, 자체적인 생성형 AI 모델 개발과 협업 네트워크를 구축하는 데 어려움을 겪고 있는 것이 현실이다.

룩셈부르크에 위치한 지코어의 ‘생성형 AI 클러스터’는 기업에서 디자인 프로젝트 개발을 위해 인간의 창의성을 강화하는 것에서 부터 운영 효율성을 높이는 것, 또는 흥미로운 게임 콘텐츠를 개발하는 것에 이르기까지 광범위한 사례에서 생성형 AI를 활용할 수 있도록 지원한다. 지코어의 고성능 인프라는 기존 대기업뿐만 아니라 AI 비즈니스 기회를 모색하고 있는 스타트업과 기업가들도 쉽게 활용할 수 있다.

지코어의 안드레 라이텐바흐(Andre Reitenbach) CEO는 "지코어가 AI 환경의 변화와 발전에 함께하고 있음을 매우 자랑스럽게 생각한다. 지코어의 생성형 AI 클러스터의 출시의 의미는, 우리가 전 세계의 AI 개발 및 연구자들을 위한 기회의 문을 여는 것이며, 최첨단 인프라를 용이하게 제공하여 AI 주도 혁신을 촉진하려는 지코어의 노력을 보여주는 것이다” 라고 말했다.

지코어 클라우드(Gcore Cloud)는 엔비디아 GPU에서 원활하고 안정적으로 AI모델을 훈련하고 추론을 실행할 수 있는 다양한 솔루션을 제공한다.

이러한 솔루션의 예로는 AI 클러스터로의 직접 액세스, 관리형 쿠버네티스(Managed Kubernetes)를 사용한 GPU 노드 배포, MLOps(ML옵스) 플랫폼에서의 작업 공간 설정, 및 대규모 모델을 전 세계적에 저지연으로 서비스할 수 있는 기능 등이 있다. 또한, 지코어 클라우드 GPU는 개발 요구사항과 워크플로에 맞게 커스터마이징이 가능함은 물론이다.

한편, 엔비디아는 이번 ‘지코어 AI 클러스터’ 발표에 맞춰 지코어 코리아와의 협력을 통해 국내 시장 공략에도 적극 나설 계획이다. 특히 지코어 코리아는 현재 리소스 집약적인 컴퓨팅 작업을 위한 CPU 인 ‘엔비디아 H100’ 기반 퍼블릭 및 프라이빗 클라우드 서비스를 제공하는 국내의 유일한 CSP로 연내 AI 및 클라우드 리전 설립을 앞두고 있다.