델 테크놀로지스(Dell Technologies)는 델 생성 AI 솔루션(Dell Generative AI) 포트폴리오를 확장하여 고객들이 생성형 AI 여정의 모든 단계에서 비즈니스를 혁신할 수 있도록 지원한다고 9일(현지시간) 밝혔다.

생성형 AI를 위한 델과 엔비디아의 검증 설계(Dell Validated Design for Generative AI with NVIDIA)의 모델 커스터마이징(Model Customization) 오퍼링은 데이터로부터 인텔리전스를 확보할 수 있도록 사전-학습 모델을 제공해, 아무런 사전 준비 없이 처음부터 모델을 구축할 때 발생하는 불편함을 줄여준다.

이 솔루션은 기업들이 자체 보유한 고유 데이터를 온프레미스에 안전하게 저장한 채로 원하는 비즈니스 결과물을 도출할 수 있도록 생성형 AI 모델을 맞춤 설정하고 미세 조정(fine-tuning)할 수 있는 모범 사례들을 제공한다.

커스터마이징 블루프린트을 활용해 다양한 방법으로 생성형 AI 모델을 조정할 수 있다. 또한 모듈식의 유연한 설계로 트레이닝 확대, 전이 학습(transfer learning), 프롬프트 튜닝(prompt tuning)에 이르는 광범위한 컴퓨팅 요구 사항과 활용 사례를 지원한다.

이로써 모델 튜닝과 추론을 모두 지원하게 된 ‘생성형 AI를 위한 델 검증 설계’는 업계 최고 성능의 AI 서버1)인 ‘델 파워엣지 XE9680(Dell PowerEdge XE9680)’ 서버 및 ‘델 파워엣지 R760xa(Dell PowerEdge R760xa)’서버와 같이 검증된 인프라스트럭처와 함께 엔비디아 텐서 코어 CPU(NVIDIA® Tensor Core GPU) 및 엔비디아 AI 엔터프라이즈 소프트웨어(NVIDIA AI Enterprise software) 및 델 소프트웨어를 사용해 생성형 AI 모델의 빠른 구축을 가능하게 한다.

엔비디아 AI 엔터프라이즈 소프트웨어는 프레임워크, 사전 학습 모델을 비롯해 ‘엔비디아 네모(NVIDIA NeMo™)와 같은 프레임워크 등으로 구성되어 있다. 또한 델 파워스케일(Dell PowerScale) 및 델 오브젝트스케일(Dell ObjectScale)과 같은 스토리지를 결합하여 검증된 설계 기반의 다양한 스토리지 데이터 유형을 생성형 AI 모델에 신속하게 적용할 수 있다.

솔루션은 델의 서비스형 오퍼링인 델 에이펙스(Dell APEX)를 통해 구독형으로도 도입할 수 있다.

델은 이번에 생성형 AI를 위한 프로페셔널 서비스를 출시하고, 관련 서비스 역량을 강화해 고객들이 더 나은 비즈니스 성과를 빠르게 창출할 수 있도록 전문 지식과 프로세스를 제공할 계획이다.

데이터 준비 서비스(Data Preparation Services)는 오염되지 않고 정확한 데이터 세트를 최적의 포맷으로 제공하여 AI 프로젝트가 원활하게 진행될 수 있도록 지원하는 동시에 데이터 통합을 간소화하고 고품질의 데이터 결과물을 얻을 수 있도록 한다.

델 구현 서비스(Dell Implementation Services)는 추론 및 모델 커스터마이징을 위한 생성형 AI 운영 플랫폼을 구축하여 가치 창출 시간을 단축시킨다. 델 매니지드 서비스(Dell Managed Services)와 함께 사용하여 엔비디아 기반 생성형 AI 솔루션을 운영하고, 효율성을 개선하는 동시에 고객들은 고유한 생성형 AI 사용 사례를 구축할 수 있도록 돕는다.

교육 서비스(Education Services)는 고객이 생성형 AI와 관련해 필요한 역량을 갖추고 전문 스킬을 습득할 수 있도록 지원한다.

AI 및 애널리틱스를 위한 데이터 인프라 현대화

아울러 델은 데이터 레이터 분석 플랫폼 기업인 ‘스타버스트(Starburst)’와 협력을 강화하여 고객의 생성형 AI 및 애널리틱스를 지원한다. 양사는 현대화된 데이터 레이크하우스 솔루션 개발에 힘을 모을 예정이다.

이 솔루션은 스타버스트의 분석 소프트웨어를 델의 파워엣지 컴퓨팅 플랫폼 및 업계를 선도하는 델의 스토리지 솔루션2)과 결합하여 데이터가 어디에 있든 통찰력을 도출할 수 있도록 지원한다. 개방형 소프트웨어로 구축되어, 고객은 멀티클라우드 데이터에 쉽고 안전하게 접근하며, 분석 및 AI 기반의 워크플로우를 적극 활용할 수 있다.

김경진 한국 델 테크놀로지스 총괄사장은 "AI를 통한 비즈니스 성과를 극대화하고 퍼블릭 클라우드, 온프레미스, 엣지 등 다양한 환경의 워크로드를 지원하기 위해서는 올바른 인프라, 소프트웨어 및 서비스로 구성된 강력한 데이터 기반이 필요"하다고 강조하며 "델이 이번에 새로운 검증 설계와 전문 서비스, 그리고 현대적인 데이터 레이크하우스 솔루션을 생성형 AI 솔루션 포트폴리오에 추가한 이유도 여기에 있다"고 밝혔다.

한편, 생성 AI를 위한 델 검증 설계(Dell Validated Design for Generative AI)의 모델 최적화(Model Customization) 오퍼링은 10월 말에 한국을 비롯한 글로벌 시장에서 출시된다. 생성형 AI를 위한 델 프로페셔널 서비스(Dell Professional Services for Generative AI)는 10월말 한국을 비롯한 일부국가에서부터 순차적으로 출시될 예정이며, 델과 스타버스트가 계획 중인 데이터 레이크하우스 솔루션은 2024년 상반기에 전세계에 출시될 예정이다.