지난 2016년 구글은 텐서 프로세싱 유닛(TPUs, Tensor Processing Units) 공개했었다. TPU는 현재, 최대 180 테라플롭(Teraflops) 또는 초당 부동 소수점 연산을 제공하고 있는 가운데 구글은 지난해 삼성전자에서 구글로 자리를 옮긴 이인종 '구글 클라우드 IoT' 부사장이 25일(현지시각) 블로그 포스트를 통해 IoT기기에서 머신러닝을 수행할 수 있는 소형 AI가속기인 '에지TPU(Edge TPU)'를 발표했다.

이 부사장은 이 새로운 초소형 AI 칩은 "텐서플로우 라이트 머신러닝(Tensor Flow Lite ML)모델을 에지에서 실행하도록 설계된 전용 ASIC(Application Specific IC) 칩"이라고 설명했으며, 또한 "에지TPU는 클라우드 TPU 오퍼링을 보완하기 위해 설계되었기 때문에 클라우드에서의 머신러닝 학습을 가속화 한 다음 에지에서 순식간에 머신러닝을 추론할 수 있어 실시간으로 로컬에서 지능적인 의사 결정을 내릴 수 있다."고 전했다.

새로운 에지TPU는 스마트폰이 아닌 엔터프라이즈 애플리케이션 기기용으로 설계되었으며, 동전 하나에 4개를 올릴 수 있을 만큼 크기가 작으며, 클라우드의 중앙 시스템에서 처리하던 인공지능(AI) 추론을 IoT 엣지 기기로 나눠 수행하면서 IoT 서비스 현장에 필요한 연산 동작을 더 빠르게 처리할 수 있게 된 것이다. 또 이러한 종류의 작업을 장치에서 하는 것은 네트워크의 상황에 따른 서비스 지연 및 장애, 대역폭 소비를 줄이고 데이터 보안 위험을 낮추면서 기기 내에서 실행하게 되어 더 안전하고, 다운 타임이 적으며, 더 빠른 결과를 제공한다.

또한 구글은 에지 TPU를 개발 키트(devkit)로 제공함으로써 고객이 하드웨어 기능을 테스트하고 자사 제품에 어떻게 적용되는지 쉽게 확인할 수 있도록 했다. 이 개발 키트에는 에지 TPU, NXP CPU, 마이크로 칩 보안 요소 및 Wi-Fi 기능을 포함하는 SOM(system on module)이 포함되어 있으며, USB 또는 PCI Express 확장 슬롯을 통해 컴퓨터 또는 서버에 연결할 수 있다. 이 키트는 올 10월부터 공급이 가능하다.

한편 구글은 이런 종류의 기기에서 AI과제를 위해 칩을 설계하는 회사는 아니지만 이제 고객은 데이터를 구글 클라우드에 저장하고, TPU를 사용하여 알고리즘을 학습한 다음, 새로운 에지 TPU를 사용하여 장치 내 추론을 수행할 수 있게 됐으며, 구글의 Cloud IoT Edge, Edge TPU 및 Cloud IoT Core는 사물인터넷(IoT)의 새로운 가능성을 열었다. 이제 강력한 데이터 처리 및 머신러닝을 통해 로봇 팔, 풍력 터빈 및 스마트 자동차와 같은 장치가 센서의 데이터를 실시간으로 처리하고 그 결과를 로컬에서 예측하고 지능적인 의사 결정을 내릴 수 있게 될 것으로 예상된다.