초당 최대 400TOPs와 포괄적인 스택을 제공하고 텐서플로, 파이토치, 카페 및 GLOW 및 ONNX와 같은 런타임을 포함한 인기 있는 프레임 워크를 지원하며, 소프트웨어 제품군에는 컴파일러 및 시뮬레이터가 포함된 클라우드 AI 100 애플리케이션 SDK가 포함된다.

AI 추론 가속기 '퀄컴 클라우드 AI 100(Qualcomm® Cloud AI 100)
AI 추론 가속기 '퀄컴 클라우드 AI 100(Qualcomm® Cloud AI 100)

퀄컴(Qualcomm)이 지난해 4월 발표한 고성능 AI 추론 가속기 '퀄컴 클라우드 AI 100(Qualcomm® Cloud AI 100)'와 새로운 '퀄컴 클라우드 AI 100 엣지 개발 키트(Qualcomm Cloud AI 100 Edge Development Kit)'를 출시하고 전세계 고객에게 샘플을 배포하고 있다고 16일(현지시간) 발표했다. 퀄컴이 데이터 센터 AI 추론 가속기 시장에 본격 진출한 것이다.  

클라우드 AI 100은 고급 신호 처리 및 최첨단 전력 효율성으로 데이터 센터, 클라우드 엣지, 엣지 어플라이언스 및 5G 인프라를 포함한 여러 환경을 위한 인공지능(AI) 솔루션을 지원한다. 또한 새로 발표된 '퀄컴 클라우드 AI 100 엣지 개발 키트'는 5G 연결과 함께 최대 24 개의 동시 1080p 비디오 스트림까지 AI 처리를 위한 완전한 솔루션을 제공하며, 이를 통해 엣지 애플리케이션 채택을 가속화하도록 설계되었다.

퀄컴 클라우드 AI 100은 초당 최대 400TOPs(Tera Operations Per Second)을 처리할 수 있는 능력과 함께 와트 당 성능을 기반으로 최첨단 AI 추론 효율성을 제공하도록 설계되었으며, 15W에서 75W까지 범위의 카드 레벨 전력 프로필로 여러 폼팩터를 지원한다.

아울러 포괄적인 스택을 제공하고 텐서플로(Tensorflow),파이토치(PyTorch), 카페(Caffe) 및 GLOW 및 ONNX와 같은 런타임을 포함한 인기 있는 프레임 워크를 지원한다. 소프트웨어 제품군에는 컴파일러 및 시뮬레이터가 포함된 클라우드 AI 100 애플리케이션 SDK가 포함된다. 런타임, API, 커널 드라이버 및 도구가 포함된 플랫폼 SDK와 함께. 이 소프트웨어 제품군은 플랫폼을 다양한 프로덕션 환경에 개발, 테스트 및 배포할 수 있도록 설계되었다.

또한 새로운 '클라우드 AI 100 개발 키트'는 고성능 AI 추론, 비디오 처리 및 5G 연결을 제공하는 최적화 된 솔루션으로 스넵드래곤 865(Snapdragon 865) 애플리케이션 및 비디오 프로세서와 함께 Cloud AI 100으로 구동되는 5G 엣지 박스에 대한 설계가 포함된다. 최대 24개의 풀 HD 비디오 디코딩을 지원하는 전체 비디오 파이프라인 제공과 고객 애플리케이션 개발을 위한 여유 공간을 제공한다. 기준 설계도 스냅드래곤 X55 5G 모뎀을 기반으로 사전 인증된 5G 모듈을 사용한다.

한편, 퀄컴의 키스 크레신(Keith Kressin) 컴퓨팅 및 엣지 클라우드 부문 수석 부사장은 “와트 당 성능에서 업계를 선도하는 완전한 엣지-클라우드 고성능 AI 솔루션을 지원할 수 있는 Qualcomm Cloud AI 100은 현재, 전 세계 고객을 대상으로 배송 중이며 2021년 상반기에 상용 제품이 출시되기를 기대합니다"라고 말했다.

관련기사

저작권자 © 인공지능신문 무단전재 및 재배포 금지