KAIST 유민수 교수팀, 메모리-중심 인공지능 가속기 시스템 개발... 최대 21배 빠른 PIM 기반 AI 추천시스템
KAIST 유민수 교수팀, 메모리-중심 인공지능 가속기 시스템 개발... 최대 21배 빠른 PIM 기반 AI 추천시스템
  • 최광민 기자
  • 승인 2020.11.16 13:00
  • 댓글 0
이 기사를 공유합니다

유민수 교수(사진:본지DB)

KAIST 연구진이 세계 최초로 `프로세싱-인-메모리(Processing-In-Memory, 이하 PIM)' 기술을 기반으로 한 인공지능(AI) 추천시스템 학습 알고리즘 가속에 최적화된 지능형 반도체 시스템 개발에 성공했다.

KAIST(총장 신성철)는 전기및전자공학부 유민수 교수 연구팀이 PIM 기술 기반의 메모리-중심 인공지능 가속기 반도체 시스템을 개발했다고 16일 밝혔다. 

인공지능 기술을 기반으로 고안된 추천시스템 알고리즘은 구글(Google), 페이스북(Facebook), 유튜브(YouTube), 아마존(Amazon) 등 빅테크 기업들이 콘텐츠 추천 및 개인 맞춤형 광고를 제작하는데 기반이 되는 핵심 인공지능 기술이다. 온라인 광고를 통한 수입은 구글과 페이스북과 같은 실리콘밸리의 빅테크 기업의 주 수익 모델인 만큼 고도화된 추천 인공지능 기술에 대한 수요는 최근 들어 급상승하는 추세다.

페이스북이 최근 공개한 자료에 따르면 페이스북 데이터센터에서 처리되는 인공지능 연산의 70%가 추천 알고리즘을 처리하는 데에 사용되며, 인공지능 알고리즘 학습을 위한 컴퓨팅 자원의 50%를 추천 알고리즘을 학습하는 데 사용하고 있다.

기존 딥러닝 학습 가속기 시스템에 지능형메모리반도체(PIM) 기술을 적용한 가속기 시스템의 모식도: 기존 심층신경망네트워크(DNN) 부분과 임베딩(Embedding)부분을 분리하여 각각 그래픽카드(GPU)와 메모리 중심의 지능형메모리반도체 (PIM core)를 이용하여 가속하는 시스템으로 구성되어 있다.
기존 딥러닝 학습 가속기 시스템에 지능형메모리반도체(PIM) 기술을 적용한 가속기 시스템의 모식도: 기존 심층신경망네트워크(DNN) 부분과 임베딩(Embedding)부분을 분리하여 각각 그래픽카드(GPU)와 메모리 중심의 지능형메모리반도체 (PIM core)를 이용하여 가속하는 시스템으로 구성되어 있다.

유민수 교수 연구팀은 최근 메모리 반도체에 인공지능 연산 기능이 추가된 프로세싱-인-메모리(PIM) 기술 기반의 지능형 반도체 시스템을 개발하는 데 성공했다. 유 교수팀이 개발한 이 시스템은 인공지능 추천시스템 알고리즘의 학습 과정을 엔비디아(NVIDIA)의 그래픽카드(GPU)를 사용하는 기존 인공지능 가속 시스템 대비 최대 21배까지 빠르다고 연구팀 관계자는 설명했다.

지능형 메모리 반도체 기술은 우리나라의 AI 반도체 세계시장 공략을 위한 핵심기술로 주목받고 있다. 특히 정부에서도 `AI 종합 반도체 강국 실현'이라는 비전 아래 막대한 국가적 투자를 아끼지 않는 핵심 투자 분야다. 따라서 유 교수팀의 연구 성과는 향후 막대한 수요와 급성장이 예상되는 세계 AI 반도체 시장에서 메모리-중심으로 설계된 PIM 기술의 상용화 및 성공 가능성을 시사한다는 점에서 의미가 크다고 전문가들은 평가하고 있다.

유민수 교수는 서강대와 KAIST에서 각각 학사와 석사를 거쳐 미국 텍사스 오스틴 주립대에서 박사학위를 취득한 후 지난 2014년 인공지능 컴퓨팅 기술 기업인 미국 엔비디아(NVIDIA) 본사에 입사했다. 엔비디아에 입사한 이후 줄곧 인공지능 컴퓨팅 가속을 위한 다양한 하드웨어 및 소프트웨어 시스템 연구를 주도했으며 지난 2018년부터 KAIST 전기및전자공학부 교수로 재직 중이다.

특히, 유 교수는 지난 2월 ‘교육 추천 시스템을 위한 Near-Memory 처리 아키텍처(A Near-Memory Processing Architecture for Training Recommendation Systems- 다운)’이라는 연구주제로 페이스북에서 수여하는 페이스북 패컬티 리서치 어워드(Facebook Faculty Research Award) '머신러닝 시스템(Systems for Machine Learning)' 분야에서 최종 수상자로 선정돼 5만 달러의 연구비를 지원받는다. 이는 지난해 9월 전 세계 26개국, 100개 대학 167명의 교수와 함께 연구 제안 요청서를 제출, 그중 10명의 수상자가 선정됐다. 유 교수는 아시아권에서는 유일하게 수상자 명단에 포함된 것이다.

한편, KAIST 전기및전자공학부 권영은 박사과정이 제1 저자, 이윤재 석사과정이 제2 저자로 참여한 이번 연구 결과는 세계 최초의 추천시스템 학습용 가속기 시스템 개발 성과라는 학술 가치를 인정받아 컴퓨터 시스템 구조 분야 최우수 국제 학술대회인 IEEE International Symposium on High-Performance Computer Architecture(HPCA)에서 `텐서 캐스팅: 맞춤형 추천 교육을 위한 공동설계 알고리즘(Tensor Casting: Co-Designing Algorithm-Architecture for Personalized Recommendation Training)' 이라는 제목으로 내년 2월에 발표된다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.