건국대 조용범 교수, 내 손안에서 AIoT를... 디바이스에 딥러닝 모듈 '맞춤 API' 제공
건국대 조용범 교수, 내 손안에서 AIoT를... 디바이스에 딥러닝 모듈 '맞춤 API' 제공
  • 최광민 기자
  • 승인 2020.10.25 17:35
  • 댓글 0
이 기사를 공유합니다

YBPU는 이미 훈련된(Pre-trained) 딥러닝 모듈을 현재시장에서 사용 가능한 대부분 임베디드 보드에 맞춤형 최적화를 진행하여 사용자가 사용할 수 있는 API를 제공한다. 현재, 지원 가능한 딥러닝 모듈은 텐서플로우, 파이토치, MxNet, 카페, Onnx 등
건국대 VLSI 연구실 조용범 교수

사물 인터넷(IoT) 기술 혁명은 그 어느 때보다 우리의 삶과 일을 편리하게 재구성하며 많은 변화를 이끌고 있다. 특히 인공지능(AI)의 심층 신경망(DNN) 기술과 사물 인터넷 기술의 만남, 즉 AIoT(AI of things)는 현대 사회의 여러 분야에서 활약을 하고 있다.

최근 보안, 운송, 제조, 의료, 자율 주행 지원, 스마트 홈 등의 다양한 분야에서 AI 기술을 사용할 때 임베디드 장치에서의 접목이 요구되고 있다. 엣지 컴퓨팅(Edge Computing)을 통해 비용, 대기 시간, 대역폭, 전력 소비, 안정성 및 개인 정보 보호 문제를 해결하며 개발 효율성을 증대시킬 수 있는 것이 큰 장점이다.

기존 AI 개발 도구는 서버 또는 휴대폰 플랫폼 개발용으로 설계되었으며 AIoT의 응용에 맞는 AI 개발 도구는 흔치않다. IoT 장치에 탑재된 칩들의 성능은 중대한 기능을 하는 딥러닝 모듈을 실행하기에 프로세서 구조, 메모리 구조, 소프트웨어 환경 및 시스템 등 많은 부분에서 제한을 갖고 있다. 또한 임베디드용 AI 개발도구도 IoT에 사용하기에 제한된 프로세스의 성능, 메모리의 한계 등으로 여전히 어려움을 갖고 있다.

이러한 한계를 극복하고 AI 기능을 IoT에 탑재하기 위해서 여러 가지 최적화 과정을 거쳐야 한다. 최적화 과정에는 많은 방법이 존재한다. 신경망 모델 자체의 압축(Compression)이나 가지치기(Pruning)와 같은 경량화를 위한 최적화 과정을 거치더라도 최적의 동작 효율을 내는 것은 아니다. 그 외에도 사용하고자 하는 하드웨어 디바이스 조건들에 맞게 최적화 과정들을 진행해야하기 때문이다.

현대사회의 다양한 분야에서 인공지능의 활용도가 증가하고 있지만, AI 전문가가 아닌 타 분야 전문가들은 효율적인 방법으로 인공지능을 활용하지 못하는 현실이다. 제안하는 YBPU를 사용하면 위와 같은 문제들을 해결함과 동시에 손쉽게 AIoT를 접할 수 있다고 한다.

'YBPU(YB Processing Unit)'은 건국대학교(총장 전영재) 초고밀도집적회로(VLSI) 연구실(전기·전자공학부 조용범 교수)이 독자적인 기술로 만들어진 프레임워크이자 PC나 클라우드 서비스로 개발된 AI 프레임워크를 임베디드 보드나 IoT 보드에 사용하기 위해 경량화/최적화 작업을 수행하여 타켓 보드에 맞게 API를 제공하는 엔진이다.

특히, 경량화·최적화 과정은 Auto-ML을 통해 타켓 보드에 맞추어 타켓 보드가 최적의 동작을 수행하기 위한 조건을 선택하며, 현재 라즈베리 파이 4 보드 등에서도 AI 프레임워크가 잘 동작하고 있다. YBPU는 이미 훈련된(Pre-trained) 딥러닝 모듈을 현재시장에서 사용 가능한 대부분 임베디드 보드에 맞춤형 최적화를 진행하여 사용자가 사용할 수 있는 API를 제공한다.

현재 지원 가능한 딥러닝 모듈은 텐서플로우(Tensorflow), 파이토치(PyTorch), MxNet, 카페(Caffe), Onnx 등으로 사용자가 YBPU를 이용하기 위해 필요한 정보는 타겟 보드 또는 칩셋 정보, 딥러닝 pre-trained 모델 등이며 이를 입력으로 사용하여 모델을 자동으로 분석하고 최적화하여 타겟 보드에 맞게끔 라이브러리를 제공한다. 또한 iOS, Android, Linux, Mac OS, Windows와 같은 모든 OS를 지원한다.

모든 연구를 주도하고 있는 조용범 교수는 "VLSI 연구실은 초기에는 신경망 연구, 신경망 VLSI 연구 등을 수행하였으며, 2000년도부터 ARM 기반의 임베디드 프로그래밍 관련 연구를 주로 하였습니다"라며, "2010년부터는 ARM을 CPU로 사용하는 SoC 연구를, 2018년부터는 AI 관련 연구를 수행하여 특히, AI 프레임워크가 임베디드 환경에서 동작할 수 있는 경량화/최적화 연구를 핵심하고 있습니다"라고 소개했다.

한편, YBPU은 현재, 무료로 사용가능하다. VLSI 연구실은 지난 9월에 ㈜딥이티(Deep ET)라는 기업으로 실험실 창업을 하고 27일부터 29일까지 서울 삼성동 코엑스에서 열리는 ‘AI EXPO KOREA 2020(국제인공지능대전)에서 (주)딥이티·건국대학교라는 이름으로 참가해 관련 솔루션을 선보인다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.