향상된 성능 및 전력효율을 제공하는 X330을 통해 생성 AI 및, 대형언어모델 지원을 추가하여, 전반적인 TCO을 개선...글로벌 탑티어 NPU 성능 제공

16일, 류수정 대표가 데이터센터 용 AI반도체 ‘X330’를 들어보이며 출시를 알리고 있다.
16일, 류수정 대표가 데이터센터 용 AI반도체 ‘X330’를 들어보이며 출시를 알리고 있다.

글로벌 인공지능 반도체 기업인 사피온(SAPEON, 대표 류수정)이 전작대비 속도가 4배 향상된 데이터센터 용 AI반도체 ‘X330’을 출시한다고 16일 밝혔다.

X330은 TSMC의 7나노공정을 통해 생산된 제품이다. 사피온은 주요 고객사들을 대상으로 X330 시제품 테스트와 고객사들과 신뢰성 검증 작업을 진행하고 내년 상반기부터 양산을 시작할 예정이다.

사피온은 향상된 성능 및 전력효율을 제공하는 X330을 통해 생성 인공지능(Generative AI), 대형언어모델(LLM, Large Language Model) 지원을 추가하여, 전반적인 TCO(총소유비용, Total cost of ownership)을 개선함으로써, AI서비스 모델 개발 기업 및 데이터 센터 시장 공략에 적극 나설 계획이다.

사피온은 X330반도체 HW와 함께 서버 장착시 성능을 최적화할 수 있는 ONNX(개방형 신경망 교환, Open Neural Network Exchange) 기반의 SW Stack을 지원하며, AI 추론 플랫폼 소프트웨어 및 SDK(소프트웨어 개발 도구)도 함께 제공한다.

전작대비 속도가 4배 향상된 데이터센터 용 AI반도체 ‘X330’ 실물 사진 
전작대비 속도가 4배 향상된 데이터센터 용 AI반도체 ‘X330’ 실물 사진 

X330은 추론용 NPU로서 전작인 X220에 비해 응용범위가 표준 기술 기반 하에 대폭 확대되었다. 따라서 보다 다양한 분야와 산업군에서 손쉽게 활용할 수 있는 NPU라고 말할 수 있다.

X330은 기존 X220 대비 4배 이상의 연산 성능, 2배 이상의 전력효율을 확보하였다. 이는 23년 출시된 경쟁사의 5nm 제품 대비 연산 성능은 약 2배, 전력 효율은 1.3배이상 우수한 수준이다.

또한 X330은 동영상 관련 프로그램의 처리속도 향상을 위해 비디오 코덱(Video codec) 및 비디오 후처리(video post processing) IP를 내장하고 있다. X330은 내장된 하드웨어 IP를 통해 4채널 4K 60fps 동영상 입력 처리가 가능하다.

기존 사피온 X220은 국내 최초로 고성능 AI 언어 모델(Language Model)인 ‘BERT’ 추론에서 우수한 성능을 증명하였으며, 새로운 X330은 대화형 AI '챗GPT'의 원천기술인 '트랜스포머(Transformer)' 기반 LLM(Large Language Model) 실행을 달성하였다.

사피온은 이러한 뛰어난 성능과 혁신적인 AI 반도체 기술력을 기반으로, SK텔레콤과 협력을 강화하여 신규 서비스 시장 공략에 적극 나서고 있다. 특히 사피온은 지난해 12월에 SK브로드밴드 가산 IDC 내에 사피온 AI반도체 X220 장착 서버를 사용하여 7.6Peta OPS 처리량에 달하는 대규모 NPU Farm 을 구축하였고, 이를 통해 실제 데이터센터 환경에서 서비스를 상용화하고, 운영하는 프로젝트를 본격적으로 추진한 바 있다.

이는 기존에도 소규모 서버 혹은 카드로 AI 모델을 연산 처리하는 실증과제는 다수 존재했지만, 실제 서비스 상용화를 목표로 대규모 NPU Farm 을 구축한 것은 국내 최초의 사례다. 무엇보다 사피온은 NPU Farm 프로젝트를 통해 이미지 분석, 자연어 처리, 화질 개선 등 다양한 분야에서의 상용화 테스트를 성공적으로 수행함으로써, 비즈니스 모델 확대 가능성을 확인하였다.

사피온은 이번에 출시한 데이터센터용 AI 반도체인 X330과 함께, 향후 자율주행 자동차용 IP(반도체 설계자산), CCTV 등 고성능 엣지 디바이스용 AI NPU 도 선보일 계획이다.

사피온 류수정 대표는 “사피온은 기존  X220의 장점을 극대화한 X330으로 AI서비스 모델 개발 기업 및 데이터 센터 시장 공략에 박차를 가할 계획이다"며, "산업 전분야에서 AI 반도체 활용도를 높여 고도의 AI 기술을 누구나 저렴하게 이용할 수 있게 제공함으로써, 모두가 첨단 기술 발전의 혜택을 향유할 수 있는 사회를 만드는데 공헌하고자 한다”라고 말했다.

한편, 사피온은 X330을 SKT의 ‘글로벌 AI 컴퍼니’로 도약을 위한 ‘SKT AI 피라미드’ 전략의 AI 인프라·AIX·AI서비스 3대 영역 중에 근간이 되는 AI 인프라 영역에 적용하여, 지속적으로 신규 비즈니스 기회를 창출할 수 있는 관련 사업으로도 확장해 나갈 방침이다.

또한 사피온과 SKT는 AI 반도체를 활용하여 AI 및 빅데이터 분석을 통한 보이스피싱 방어 및 스팸/스미싱 방지 시스템을 제공하여 외부 보안 위협으로부터 고객 보호를 위한 다양한 활동을 진행할 계획이다.

저작권자 © 인공지능신문 무단전재 및 재배포 금지