자동화가 필수가 된 데이터센터 운영부터 첨단 자율주행 기술까지. 인공지능(AI) 서비스가 고도화되면서 중요도가 높아진 하드웨어 장치가 있으니, 바로 ‘AI 맞춤형’ 프로세서다.

기존 AI 모델 개발에 활용되던 그래픽처리장치(GPU)는 당초 AI에 특화된 프로세서가 아니라는 것. 이처럼 차세대 프로세서 도입 필요성이 높아짐에 따라 이곳 시장에 뛰어든 기업들의 경쟁도 치열해진 흐름이다. 특히, 정부 주도로 AI 산업 키우기에 속도를 내는 국내 시장에서 그 움직임이 심화하고 있다는 평가가 나온다.

AI 반도체 산업에 종사하는 관계자 A씨는 녹색경제신문에 “AI 모델 개발을 위한 프로세서 시장에서도 여전히 엔비디아의 GPU가 지배적인 것은 사실이지만, 이것이 본래 AI 알고리즘을 고려한 특화된 반도체는 아니다 보니, 보다 AI 연산에 필요한 기능만을 최적화한 새로운 형태의 프로세서 도입에 대한 목소리가 높아지는 추세”라며, “다양한 AI 반도체가 존재하는 가운데 국내 시장에서도 기업들의 기술 개발 및 출시·공급 경쟁이 활발하게 이뤄지고 있다”라고 말했다.

8일 녹색경제신문의 취재를 종합하면 SK 사피온과 KT가 신경망처리장치(NPU) 시장에 본격적으로 뛰어든 한편, 글로벌 기업 그래프코어는 자사의 대표 AI 반도체 지능처리장치(IPU)를 앞세워 국내 시장 공급망을 확대하고 있다.

SK텔레콤·SK하이닉스·SK스퀘어로 구성된 SK 자체 ICT 연합은 AI 반도체 전문기업 사피온을 SKT로부터 독립시켜 NPU 개발에 전념하고 있다. NPU는 인공신경망을 이용해 AI 연산 효율을 높이는 기술로, 오직 AI 처리만을 목적으로 만들어진 칩이라는 점에서 업계로부터 주목받는 칩이다. 쉽게 말해 알고리즘에 최적화된 신경망을 하드웨어로 구현한 프로세서라고 이해하면 되겠다.

사피온은 NPU 구조 기반의 AI 반도체를 주력 제품으로 하는 기업이다. 지난 2020년 SK텔레콤 사업 부문 소속이었을 때 국내 최초 자체 NPU ‘사피온 X220’를 개발해 출시한 바 있다. NPU를 기반으로 한 데이터센터용 ASIC(주문형 반도체) 칩으로, 당시 GPU 대비 1.5배 빠른 딥러닝 연산 속도와 80% 수준의 전력 사용량을 구현하면서도 가격은 훨씬 더 저렴했다.

AI 반도체에 투자를 대폭 확대하겠다는 SK ICT 연합의 방침 아래에 사피온은 하나의 법인으로 분사됐다. AI 추론 기능에 최적화된 데이터센터용을 넘어, 이제는 AI 모델 학습 기능까지 지원하는 ‘X330’를 내년 출시할 예정이다. 이어 계속 후속작을 내놓으면서 본격 자율주행, 보안, 스마트팩토리 등까지 범위를 확장할 계획이다.

사피온코리아 관계자는 “AI 알고리즘에 최적화된 NPU는 학습 및 추론 과정에서 고성능과 에너지 고효율이 가능하다는 장점을 지닌다”라며, “사피온은 내년 상반기를 시작으로 신형 AI 전용칩을 잇따라 출시할 계획이며 성능과 활용도 측면에서 모두 경쟁력을 확보할 수 있을 것으로 기대한다”라고 말했다.

KT도 자사의 AI 기술 경쟁력을 강화하기 위해 AI 반도체 사업 확장에 나섰다. 국내 유망 AI 반도체 스타트업 리벨리온과 손을 잡고 NPU 시장 진출을 본격화하겠다는 의지를 드러냈다. KT는 리벨리온에 300억원 규모의 전략 투자를 단행하고 사업 협력에 나서기로 했다.

KT 관계자는 “엔비디아의 GPU 의존도를 줄이고, 국내 스타트업들과의 협력을 기반으로 AI 반도체 분야에 진입하겠다는 것이 이번 리벨리온 투자의 주된 취지라고 봐주시면 되겠다”라며, “리벨리온은 특히 NPU 구조의 ASIC 설계 경쟁력을 갖춘 회사로, 앞으로 AI 반도체 분야 및 언어모델 개발 협력을 통해 NPU 시장을 선점해 나갈 계획”이라고 강조했다.

KT는 앞서 지난해 협력 관계를 맺은 AI 인프라 솔루션 기업 ‘모레’와 더불어 리벨리온과 함께 AI 반도체를 개발하고, 자사에서 추진하는 모빌리티와 금융 디지털전환(DX) 부문에 AI 서비스를 적극 도입할 방침이다.

한편, 글로벌 AI 반도체 기업 그래프코어는 국내 시장에 자체 개발한 IPU를 가지고 와 클라우드 사업자 및 공공, AI 스타트업 등 고객사 확보에 집중하고 있다. IPU의 경쟁력에 대해 그래프코어는 엔비디아의 GPU와도, 사피온과 KT가 진출한 NPU와도 확실히 선을 그었다.

전날 열린 그래프코어 기자간담회에서 강민우 한국 지사장은 “GPU는 각 분야에 맞게 소프트웨어 스펙이 개발되면서 지금 광범위하게 쓰이는 것이지, AI에 특화된 반도체가 아닌 반면, IPU는 태생 자체가 AI 분야에 포커스가 맞춰져 거기에 잘 작동하도록 만들어진 칩으로, 출발선상이 다른 것”이라고 강조했다.

또, “IPU는 업계에 없는 완전히 새로운 아키텍처를 근본으로 하고 있으며 현재 역량도 계속 커지고 있는 한편, 고객사와의 접점도 점점 더 확대되고 있다. NPU 등 다른 제품의 경우 앞으로 성숙하는 데 시간이 많이 걸릴 것으로 보고 있다”라고 말했다.

그래프코어가 개발한 IPU는 칩 내부에 직접 메모리 장치를 심은 지능처리장치로, 다양한 AI 연산과 추론 과정에서 최신 GPU 기반의 시스템을 능가하는 성능을 증명하고 있다. 그래프코어에 따르면 최근 MLPerf 2.0 벤치마크 테스트 결과에서 기업의 최신 제품인 보우(Bow) IPU 칩은 엔비디아의 DGX-A100(640GB) 대비 31% 더 빠른 훈련 시간을 기록했다.