인공지능(AI), 클라우드, 스토리지 및 5G, 엣지 등 위한 토탈 IT 솔루션 인프라 글로벌 기업 슈퍼마이크로(Supermicro. 이하, 슈퍼마이크로) AI 솔루션 포트폴리오를 통해고객이 공공 장소, 소매점 또는 다양한 산업 인프라와 같은 엣지에서 AI의 성능과 기능을 활용한다. 

아울러 엔비디아(NVIDIA) GPU와 함께 슈퍼마이크로의 애플리케이션 최적화 서버를 사용하면 사전 훈련된 모델을 더 쉽게 미세 조정하고 데이터가 생성되는 엣지에서 AI 추론 응답 시간과 의사 결정을 개선할 수 있으며, 배포를 더 쉽고 빠르게 할 수 있다.

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 "슈퍼마이크로는 가장 광범위한 엣지 AI 솔루션 포트폴리오를 갖추고 있어 고객의 엣지 환경에 맞게 사전 훈련된 모델을 지원할 수 있습니다"라며, "듀얼 5세대 인텔제온( Intel®Xeon®)프로세서를 기반으로 하는 슈퍼마이크로 하이퍼-E(Hyper-E) 서버는 엔비디아 H100 텐서 코어 GPU를 최대 3개까지 지원할 수 있어 엣지 AI에 비할 데 없는 성능을 제공합니다"라고 말했다.

이어 리앙 CEO는 "이 서버에는 최대 8TB의 메모리를 탑재해 엣지에서 데이터 센터 AI 처리 능력을 제공하고 있습니다"라며, "슈퍼마이크로는 기업이 엣지 위치에서 AI 데이터를 처리하여 경쟁 우위를 구축함에 따라 업계에 최적화된 솔루션을 지속적으로 제공하고 있습니다"고 밝혔다.

이러한 서버 발전으로 인해 사용자는 더 이상 처리를 위해 데이터를 클라우드로 다시 보낼 필요가 없으며, 필요한 경우 엣지로 정보를 다시 검색하기만 하면 된다. 이제 고객은 데이터 출처에 가까운 정확한 실시간 의사결정을 위해 데이터가 필요한 엣지 위치에서 성능에 최적화되고 엔비디아 AI 엔터프라이즈와 함께 사용할 수 있는 사전 훈련된 대형언모델(LLM)을 사용할 수 있다.

엔비디아 파트너 얼라이언스 부사장 케빈 코너스(Kevin Connors)는 "헬스케어, 소매, 제조, 자동차 등 다양한 산업 분야의 기업들이 점점 더 엣지에서 AI를 활용하는 방안을 모색하고 있습니다"며, "엔비디아 AI 플랫폼으로 구동되는 새로운 슈퍼마이크로 엔비디아 인증 시스템(Supermicro NVIDIA-Certified Systems)은 최고 성능의 가속 컴퓨팅 인프라는 물론 엣지 AI 워크로드 실행을 돕는 엔비디아 AI 엔터프라이즈 소프트웨어를 제공하도록 구축되었습니다"라고 말했다.

슈퍼마이크로의 Hyper-E 서버인 SYS-221HE는 엣지 트레이닝 및 추론에 최적화되어 있으며 짧은 깊이의 전면 I/O 시스템에서 듀얼 소켓 CPU를 지원한다. 이 시스템은 NVIDIA H100, A10, L40S, A40 및 A2 GPU를 포함하여 최대 3개의 이중 너비 NVIDIA Tensor Core GPU를 보유한다.

예를 들어, 슈퍼마이크로의 Hyper-E 서버인 SYS-221HE는 엣지 학습 및 추론에 최적화되어 있으며 짧은 깊이의 전면 I/O 시스템에서 듀얼 소켓 CPU를 지원한다. 이 시스템은 엔비디아 H100, A10, L40S, A40 및 A2 GPU를 포함한 최대 3개의 이중 너비 엔비디아 텐서 코어(NVIDIA Tensor Core) GPU를 보유한다.

이러한 GPU는 슈퍼마이크로 Hyper-E에 데이터가 수집, 분석 및 저장되는 엣지 환경에서 AI 워크로드를 처리할 수 있는 충분한 컴퓨팅 성능을 제공한다. 슈퍼마이크로 Hyper-E 서버의 성능과 유연성을 보여주는 예로 HPC 및 고급 컴퓨팅 분야 글로벌 선도기업 아토스(Atos  Group)의 에비덴(Eviden)과 같은 파트너는 전통적인 소매점에서 쇼핑하는 동안 고객 경험(CX)을 향상시키는 엣지 AI 솔루션을 개발하고 있다.

슈퍼마이크로의 새로운 고급 AI 엣지 서버로 ▷SYS-621C-TN12R(CloudDC 제품군)은 클라우드 데이터 센터를 위한 올인원 랙마운트 플랫폼다. 이 컴팩트한 2U 시스템은 25.5인치 섀시에 최대 2개의 이중 너비 GPU를 지원하고 옵션으로 전체 NVMe를 지원하는 4~12개의 SATA/SAS 드라이브 베이를 지원한다. 

▷SYS-111E-FWTR은 고밀도 에지 시스템으로 높이가 1U이며 5세대 인텔 제온 프로세서와 PCIe 5.0 x 16 FHFL 슬롯 2개를 갖추고 있어 광범위한 네트워킹 및 에지 애플리케이션에 이상적이다.

컴팩트한 ▷SYS-E403-13E는 5세대 인텔 Xeon 프로세서와 최대 3개의 NVIDIA GPU를 특징으로 하는 박스 PC 폼 팩터로 엣지에 데이터 센터 수준의 성능을 제공합니다. 컴팩트한 폼 팩터를 사용하면 벽에 장착된 캐비닛이나 휴대용 장치와 같은 작은 공간에 시스템을 배치할 수 있다.

시스템 깊이가 300mm인 초단심 ▷SYS-211E-FRN2T는 네트워킹 가장자리의 공간 제약 환경에 적합하도록 특별히 설계되었으며 최대 5세대 인텔 제온 프로세서를 갖추고 있다. SYS-211E-FRN2T는 AC 또는 DC 전원 옵션 중 하나를 선택할 수 있다.

강력하고 다재다능한 ▷SYS-211SE-31D/A 시스템은 3개의 독립적인 노드가 있는 다중 노드 시스템으로, 각각 5세대 인텔 제온 프로세서, 3개의 PCIe 5.0 x16 슬롯, 최대 2TB의 DDR5 메모리를 갖추고 있다. 이 2U 시스템은 또한 전면 I/O와 광범위한 작동 온도 범위를 갖추고 있으며, 짧은 깊이로 인해 데이터 센터 외부에 배치하기에 매우 적합하다.

또한 ▷SYS-E300-13AD는 13세대 인텔 코어 프로세서를 탑재한 소형 IoT 서버로 크기가 265x226mm에 불과하여 엔비디아 GPU에 맞는 가장 작은 시스템입니다. 이 서버는 분산형 AI 기능을 엣지에서 제공하는 데 이상적이다.

한편, 한국에서 슈퍼마이크로 새로운 고급 AI 엣지 서버 제품군과 컴퓨팅 관련 서비스는 슈퍼솔루션(대표 김성현)이 제공하고 있다. 슈퍼솔루션 관계자는 “슈퍼마이크로 고성능 AI 서버 시스템 포트폴리오가 한 차원 더 확대되었다"며, "엣지 AI 솔루션은 고객들이 실시간으로 엣지에서 데이터를 처리해 비즈니스 효율성을 개선하고 운영 비용을 절약할 수 있도록 지원하며, 보다 향상된 고객 서비스 및 비즈니스 인텔리전스를 실시간으로 가능케 하여, 데이터 중심 사회 속 기업들의 비즈니스 성공을 도울 것"이라고 전했다.