도시바의 낸드 플래시 메모리 사업이 분사되어 설립된, 메모리 솔루션 분야를 선도하는 글로벌 기업 키오시아(Kioxia Corporation)가 대용량 스토리지를 활용한 인공지능 기술인 메모리 중심 AI 기반 이미지 분류 시스템을 개발했다.

이 시스템은 외부 대용량 스토리지에 저장된 지식을 참조하는 신경망을 사용해 이미지를 분류하며, 그 결과 신경망의 가장 큰 문제점인 ‘파괴적 망각 또는 치명적 기억 상실(catastrophic forgetting)’을 방지하고 현재 지식의 손실 없이 지식을 추가하거나 업데이트할 수 있다.

기존 AI 기술에서 신경망은 ‘가중치(weight)’라는 파라미터를 업데이트해 지식을 습득하는 훈련을 거쳤다. 학습을 모두 마친 후에 새로운 지식을 얻으려면 신경망을 처음부터 다시 훈련하거나 새 데이터를 사용해 미세 조정해야 한다. 전자의 경우에는 엄청난 시간과 에너지 비용을 투자해야 하지만, 후자는 파라미터를 업데이트해야 하고 이전에 습득한 지식을 잃어버리는 치명적 망각 문제가 발생해 분류 정확도가 떨어진다.

새로운 솔루션은 신경망 기반 이미지 분류 시스템의 비용 및 정확성 문제를 해결하기 위해 대용량 스토리지에 많은 양의 이미지 데이터, 레이블 및 이미지 특징 맵을 지식으로 저장한다. 이후 신경망은 저장된 지식을 참조해 이미지를 분류한다(그림 참조). 

이 방법을 사용하면 저장된 데이터에 새로 얻은 이미지 레이블과 기능 맵을 더해 지식을 추가하거나 업데이트할 수 있다. 이 경우 가중치 재훈련이나 치명적 망각으로 이어질 수 있는 업데이트 작업이 필요 없어 이미지 분류의 정확도를 더 높게 유지할 수 있다.

신경망이 이미지를 분류할 때 스토리지에서 참조하는 데이터로 분류 결과의 근거를 시각화할 수도 있어 AI의 설명 가능성이 높아지고 블랙박스 문제도 완화될 것으로 기대된다. 궁극적으로는 지식의 출처도 선택적으로 수정할 수 있다. 또한 참조된 데이터를 분석해 참조 빈도에 따라 저장된 각 데이터의 기여도를 평가할 수 있다.

키오시아는 ‘메모리로 사회의 지평을 넓힌다'는 사명으로 메모리 중심 AI를 이미지 분류 외의 다른 영역으로 확장하고 고용량 스토리지를 활용한 AI 기술의 연구 개발을 촉진해 AI 및 스토리지 기술 발전에 꾸준히 기여할 예정이다.

한편, 이 기술은 지난달 23일부터 27일까지 이스라엘 텔아비브에서 개최된 ‘유럽컴퓨터비전학술대회 2022(European Conference on Computer Vision. ECCV 2022)’에서  '대용량 스토리지를 갖춘 kNN 기반 이미지 분류 시스템 재점검(Revisiting a kNN-based Image Classification System with High-capacity Storage-다운)'란 제목으로 발표됐다.(아래는 기술 소개 영상)