[녹색경제신문 = 문슬예 기자] 엔비디아 CEO 젠슨 황(Jensen Huang)이 GTC 2025 기조연설에서 중국의 AI 스타트업 딥시크(DeepSeek)를 직접 언급하며, 딥시크로 인한 시장 우려를 일축했다. 황 CEO는 오히려 딥시크와 같은 추론 중심 AI가 엔비디아의 GPU 수요를 폭발적으로 늘릴 것이라고 주장하며, 이를 뒷받침할 새로운 소프트웨어와 하드웨어 전략을 공개했다.

18일(현지 시각) 황 CEO는 기조연설에서 “딥시크의 R1은 놀라운 발전이지만, 추론 AI의 미래는 더 많은 컴퓨팅 자원을 필요로 한다”며 “엔비디아는 이를 실현할 기술을 이미 갖췄다”고 말했다. 

딥시크 쇼크 이후 엔비디아가 받은 타격과 관련해, 오히려 추론 AI 시대의 엔비디아의 필요성을 강조한 셈이다.

앞서 올해 1월 딥시크가 오픈소스 추론 모델 R1을 발표하며 AI 업계가 충격에 빠진 바 있다. R1은 적은 컴퓨팅 자원으로 오픈AI의 GPT-o4와 맞먹는 성능을 보이며, GPU 의존도를 낮출 수 있다는 가능성을 시사했다. 이에 따라 엔비디아 주가는 16.9% 폭락하며 6000억 달러의 시가총액이 증발하기도 했다. 

황 CEO는 기조연설 초반에 AI 추론(inference)의 중요성을 길게 설명하며 딥시크를 화두로 꺼냈다. 

황 CEO는 “딥시크의 R1과 같은 사고능력(Reasoning)을 갖춘 AI는 기존 모델보다 훨씬 많은 컴퓨팅 파워를 요구한다”며 “딥시크는 GPU 의존도를 낮추는 게 아니라, 오히려 추론 성능을 극대화하려면 엔비디아의 칩이 필수적임을 보여준다”고 말했다.

이를 입증하기 위해 황 CEO는 추론 AI의 우수성을 설명하며 흥미로운 데모 영상을 소개했다.

해당 시뮬레이션 영상에서 전통적인 대형 언어 모델(LLM)은 결혼식 테이블 배치와 같은 복잡한 문제에서 사진에 잘 나오는 각도, 사이가 좋지 않은 가족 구성원과의 거리 등 제약 조건을 제대로 반영하지 못하고 439개의 토큰을 사용해 빠른 답을 내렸다.

반면 동일한 질문에 딥시크 R1은 8559개의 토큰을 사용해 모든 조건을 꼼꼼히 고려한 정확한 배치안을 제시했다. 

즉, 정확한 계산에는 많은 토큰과 GPU를 활용한 고성능 컴퓨팅이 필수적이라는 것이다.

이를 위해 엔비디아는 새로운 오픈소스 추론 소프트웨어 ‘다이나모(Dynamo)’를 공개했다. 

엔비디아 다이나모는 추론형 AI 모델을 효율적으로 배포하기 위한 오픈소스 소프트웨어로, AI 공장에서 토큰 생성 수익을 극대화하도록 설계됐다. 이 소프트웨어는 수천 개 GPU에서 추론 작업을 조정하고, 대형 언어 모델(LLM)의 처리와 생성 단계를 분리해 각 GPU에서 독립적으로 최적화하며 자원 활용도를 높인다.

황 CEO는 “다이나모는 정교한 추론 AI를 지원하며 비용을 줄이고 효율을 높인다”며 “이전 세대 호퍼(Hopper) 대비 25배 향상된 블랙웰 GPU 성능과 결합해 딥시크 R1 같은 모델에서 토큰 생성을 30배 이상 늘린다”고 말했다.