최근 고성능 컴퓨팅, 서버 또는 엣지(edge) 애플리케이션 등에서 심층학습과 추론 등에 특화된 새로운 인공지능(AI) 개발에 무한 경쟁을 벌이고 있다. 엣지단의 AI 애플리케이션 공간을 위해 초당 수백 테라(Tops)의 작업을 수행할 수 있는 모듈, 칩 등을 기술적으로 제조하는 것은 가능하지만, 원하는 컴퓨팅 능력은 여전히 기대치를 밑돌고 있었다.

이에 신용카드 크기 보다도 작은 소형 폼팩터로 높은 에너지 효율성을 제공하고 21 TOPS(초당 테라 연산)에 이르는 서버 수준의 성능을 제공해 최신 AI 워크로드를 실행하고 전력 소비량은 불과 10와트 밖에 되지 않는 모듈이 개발됐다.

엔비디아(CEO 젠슨 황)가 6일(현지시각) 소형 폼 팩터 시스템 온 모듈(SOM)에서 엣지단의 로봇과 임베디드 컴퓨팅 디바이스를 위한 세계에서 가장 강력한 초소형 AI 슈퍼컴퓨터 ‘젯슨 자비에 NX(Jetson Xavier™ NX)’를 발표했다.

발표된 젯슨 자비에 NX는 강력한 성능을 요구하면서도, 크기, 중량, 전력예산, 비용 등의 제약을 받는 소형 상업용 로봇, 드론, 공장 물류 및 생산라인용 지능형 고해상도 센서, 광학검사, 네트워크 동영상 리코더, 휴대용 의료기기, 기타 산업용 IoT 시스템 등의 임베디드 엣지 컴퓨팅 디바이스 분야에 새로운 지평을 열 것으로 기대된다.

디푸 탈라(Deepu Talla) 엔비디아 엣지 컴퓨팅 사업부 부사장 겸 총괄은 “AI는 업계를 혁신하는 최신 로봇과 임베디드 디바이스를 구현하는 기반이 됐다. 이 같은 디바이스들은 대부분 소형 폼팩터와 저전력을 기반으로 하기 때문에 AI기능을 추가하는데 제약이 많았다. 하지만, 젯슨 자비에 NX는 엔비디아 고객 및 파트너들이 디바이스의 크기나 전력 소모량을 늘리지 않고도 AI 성능을 획기적으로 높일 수 있도록 한다”고 설명했다.

젯슨 자비에 NX는 10W로 최대 14 TOPS 또는 15W로 21 TOPS의 성능을 제공하여 여러 뉴럴 네트워크를 병렬로 처리할 뿐 아니라, 70mmx45mm 크기의 나노 폼팩터에서 다양한 고해상도 센서로부터 수집된 데이터를 동시에 처리한다. 젯슨 자비에 NX는 젯슨 나노와 상호 핀 호환이 가능해 하드웨어 설계를 공유하고, 젯슨 나노의 캐리어 보드와 시스템을 젯슨 자비에 NX로 업그레이드할 수 있다. 이 외에도, 텐서플로우(TensorFlow), 파이토치(PyTorch), MxNet, 카페(Caffe) 등 모든 주요 AI 프레임워크를 지원한다.

또한 이미 임베디드 머신을 개발중인 기업들을 위해 젯슨 자비에 NX는 모든 젯슨 제품군과 동일한 쿠다-X AI(CUDA-X AI™) 소프트웨어 아키텍처를 적용하여 시장출시 기간을 단축하고 개발 비용을 절감하도록 한다. 엔비디아의 단일 소프트웨어 아키텍처 접근방식의 일환으로, 젯슨 자비에 NX는 컴퓨터 비전, 컴퓨터 그래픽, 멀티미디어는 물론 복잡한 AI 네트워크와 딥러닝용 가속 라이브러리 등을 실행할 수 있는 완전한 AI 소프트웨어 스택인 엔비디아 젯팩(NVIDIA JetPack™) SDK가 지원된다.

엔비디아는 최근 AI 훈련 벤치마크 테스트에서 높은 성능을 입증한데 이어, 데이터센터와 엣지에서 AI 추론 성능을 측정하는 5개 벤치마크 테스트 기준을 모두 충족했다. 업계 최초의 독립적인 AI 추론 벤치마크 테스트인 이번 MLPerf Inference 0.5의 결과는 데이터센터용 엔비디아 튜링(Turing) GPU와 엣지 컴퓨팅용 엔비디아 젯슨 자비에(Jetson Xavier) 시스템온칩(SoC)의 우수한 성능을 명확히 보여준다. 젯슨 자비에 NX 모듈은 해당 벤치마크에 사용된 자비에 SoC의 저전력 버전이다.

젯슨 자비에 NX 모듈의 주요 사양으로는 ▶GPU: 384개의 엔비디아 쿠다코어와 48개의 텐서 코어, 2개의 NVDLA를 탑재한 엔비디아 볼타(NVIDIA Volta) ▶CPU: 6-core Carmel Arm 64비트 CPU, 6MB L2 + 4MB L3 ▶비디오: 2개의 4K30 인코드, 2개의 4K60 디코드 ▶카메라: 최대 6개 CSI 카메라 (가상 채널의 경우 36개); 12 레인 (3x4 or 6x2) MIPI CSI-2 ▶메모리: 8GB 128비트 LPDDR4x; 51.2GB/초 ▶연결방식: 기가비트 이더넷 ▶OS 지원: 우분투 기반 리눅스 ▶모듈 크기: 70mmx45mm 등 이다.

젯슨 자비에 NX는 오는 2020년 3월부터 399달러에 판매된다. 개발자들은 젯슨 자비에 NX를 본뜬 소프트웨어 패치가 포함된 젯슨 AGX 자비에 개발자 키트를 이용해 애플리케이션 개발을 시작할 수 있다.

결론적으로 AI 칩이 거의 날마다 발표되고 있는 듯한 오늘날 이번 엔비디아의 젯슨 자비에 NX로 AI 칩의 기준을 한단계 높인 것으로 작은 사이즈와 저전력 성능에도 불구하고 놀라운 성능을 구현하는 능력은 일관적이면서도 강력한 소프트웨어 아키텍처와 함께 임베디드 AI 엣지 컴퓨팅에서 핵심적인 위치를 확보할 것으로 예상되며, 현장에서는 많은 주변기기 및 센서와의 호환성은 소형 폼팩터, 강력한 성능과 함께 임베디드 AI와 산업용 IoT 시스템에 새로운 능력을 제공할 것으로 기대된다.