인공지능(AI) 엣지 컴퓨팅은 이미 우리 삶에 스며들고 있다. 드론, 스마트 웨어러블 및 산업용 IoT 센서 등 디바이스에는 AI 칩이 탑재되어 있어 데이터가 발생하는 엣지에서 실시간 처리가 가능하고 데이터 프라이버시 또한 보장된다.

그러나 이러한 엣지에서의 AI 기능은 배터리에서 제공하는 에너지 효율을 높이는 것이 중요하다. 보통 AI 칩에서 데이터 처리와 저장을 위해 컴퓨팅 장치와 메모리 장치 간의 빈번한 데이터 이동에 대부분의 에너지를 소비하므로 AI 성능과 더불어 데이터 이동을 줄이는 것이 무엇보다도 에너지 문제를 해결하는 유일한 방법이다.

이에, 스탠퍼드대학교(Stanford University)와 캘리포니아 대학교 샌디에이고(University of California, San Diego) 공동 연구팀이 메모리 자체 내에서 AI 처리를 수행하여 컴퓨팅 장치와 메모리 장치 간의 이동이 없는 새로운 저항변화형 메모리(Resistive Random Access Memory, 이하, RRAM) 칩을 개발했다.

'NeuRRAM'이라고 하는 연구팀의 'CIM(Compute-In-Memory) 칩'은 손가락 끝만한 크기로 기존 칩이 할 수 있는 것보다 작은 배터리 전력으로 더 많은 AI 작업을 수행한다.

이 연구를 주도한 스탠퍼드대 공과대학 H.S 필립 웡(H.S Philip Wong) 교수는 "클라우드와 정보를 주고받는 대신 칩에서 이러한 계산을 수행하면 미래에 더 빠르고, 더 안전하고, 더 저렴하고, 확장 가능한 AI가 가능해지고 더 많은 사람들이 AI에 보다 쉽게 접근할 수 있게 될 것입니다"이라고 말했다.

이어 "데이터 이동 문제는 하루 2시간 근무에 8시간을 통근하는 것과 비슷합니다. 연구팀의 칩을 통해 우리는 이 문제를 해결할 수 있는 기술을 보여주고 있습니다."라고 덧붙였다.

NeuRRAM에 적용한 메모리 기술은 RRAM으로 상용 제품에 등장한 일종의 비휘발성 메모리(전원이 꺼진 후에도 데이터를 유지하는 메모리)다. RRAM은 작은 면적의 풋프린트에 큰 AI 모델을 저장할 수 있고 매우 적은 전력을 소비하므로 소형 및 저전력 엣지 장치에 유용하다.

특히, 연구팀의 CIM(Compute-In-Memory) 칩의 개념이 잘 정립되어 있고 RRAM에서 AI 컴퓨팅을 구현한다는 아이디어가 새로운 것은 아니지만 이는 많은 메모리를 신경망 칩에 바로 통합하고 모든 벤치마크 결과를 제시한 첫 번째 사례 중 하나이다.

NeuRRAM의 아키텍처를 통해 칩은 저전력 및 소형 영역 풋프린트에서 아날로그 인메모리 연산을 수행할 수 있다. 이 솔루션은 저전력 뉴로모픽 하드웨어 설계를 개척한 캘리포니아 대학교 샌디에이고 거트 쿠웬버그스(Gert Cauwenberghs) 연구소와 공동으로 설계했다.

이 아키텍처는 또한 데이터 흐름 방향의 재구성 가능성을 지원하고 다양한 AI 워크로드 매핑 전략을 지원하며, 다양한 종류의 AI 알고리즘과 함께 작동할 수 있으며, 추론 성능을 보장한다.

NeuRRAM의 AI 성능과 정확성을 보여주기 위해 팀은 다양한 작업에서 어떻게 작동하는지 테스트했다. MNIST 데이터셋의 문자 인식 정확도는 99%, CIFAR-10 데이터셋의 이미지 분류 정확도는 85.7%, 구글 음성 명령 인식 정확도는 84.7%, 베이지안 데이터의 이미지 재구성 오류는 70% 감소한 것으로 나타났다.

한편, 이 연구 성과는 글로벌 최고 권위의 학술지 네이처(Nature)에 '저항성 랜덤 액세스 메모리 기반 컴퓨팅 인 메모리 칩(A compute-in-memory chip based on resistive random-access memory-아래 첨부)'란 제목으로 지난달 17일 게재됐다.