인공지능 모델의 훈련과 배포를 간소화하는 것은 오늘날 AI 개발자가 직면한 가장 큰 과제 중 하나다. NXP가 엔비디아와 협력으로 엔비디아 타오 툴킷(NVIDIA TAO Toolkit)을 NXP의 'eIQ' 머신러닝 개발 환경에 기능적으로 통합해 치열한 AI 업계 경쟁 속 개발 가속이 가능해졌다고 21일(현지시간) 밝혔다.

즉, NXP의 eIQ 머신러닝 개발 환경 내에 엔비디아 타오 API를 직접 통합한 것이다. 엔비디아 타오 로우코드 AI 프레임워크를 사용하면 훈련된 AI 모델을 더 쉽게 활용하고 전이학습(Transfer Learning)을 통해 특정 용도에 맞게 미세 조정할 수 있다. 이를 통해 개발자는 엣지에서 훈련된 AI 모델을 더 쉽게 배포할 수 있다.

NXP의 eIQ 개발 환경은 소프트웨어, 추론 엔진, 신경망 컴파일러 그리고 최적화된 라이브러리의 조합을 통해 이러한 모델을 엣지에 쉽게 배포할 수 있도록 지원한다. 따라서 고객은 AI 개발을 가속화하고, 사전 테스트를 거친 AI 모델 라이브러리에 액세스하며, NXP의 광범위한 엣지 프로세서 포트폴리오에 AI 모델을 배포할 수 있다.

NXP의 IoT 및 산업 부문 총괄 매니저 겸 수석 부사장 찰스 닥스(Charles Dachs)는 "AI 혁신은 스마트 커넥티드 세상의 미래를 정의할 것이다. NXP가 오랜 기간 축적한 산업, IoT 엣지 혁신 역량과 AI 모델 훈련과 테스트에 대한 엔비디아의 전문성이 결합됐다. 이로써 고객이 AI 모델을 빠르고 쉽게 시장에 출시할 수 있도록 시너지 효과를 창출하고 있다"고 말했다.

엔비디아 로보틱스와 엣지 컴퓨팅 부문 부사장인 디푸 탈라(Deepu Talla)는 "엔비디아 타오는 최첨단 생성형 AI 모델을 포함한 AI 모델의 생성과 배포를 크게 간소화한다. 이번 협업을 통해 엔비디아 타오로 튜닝된 매우 정확하고 최적화된 AI 모델을 NXP의 eIQ 개발 환경에 원활하게 연결해 엣지 AI 배포를 가속화할 수 있게 됐다" 고 말했다.

NXP eIQ 머신러닝 소프트웨어 개발 환경을 사용하면 NXP의 광범위한 마이크로컨트롤러와 마이크로프로세서 포트폴리오에서 AI 알고리즘을 사용할 수 있다. 이 환경은 NXP의 MCUXpresso SDK와 Yocto Project Linux 개발 환경에 완벽하게 통합돼 있어 개발자가 완전한 시스템 수준의 애플리케이션을 쉽게 개발할 수 있다.

eIQ 머신러닝 개발 환경은 엔비디아 타오 API를 직접 통합해 모델 AI 훈련, 최적화, 배포를 위한 단일 플랫폼을 제공한다. 엔비디아 타오는 사전 훈련된 모델 컬렉션과 전이 학습을 활용해 사용자가 맞춤형 AI 모델을 구축할 수 있는 API 기반 워크플로우를 제공한다. 엔비디아 타오는 추론 처리량을 증가시키는 모델 프루닝(model pruning)과 같은 여러 가지 최적화 기능을 제공한다.

이 협업을 통해 개발 속도를 높이고 엔비디아의 사전 훈련된 모델을 i.MX 93 애플리케이션 프로세서와 같은 NXP SoC의 신경망처리장치(Neural Processing Unit, NPU)에서 실행할 수 있다. 보다 자세한 정보는 nxp.com/eIQ에서 확인할 수 있다.