엔비디아 ‘신비의 칩’... 추론 시대 개막과 4대 연산 트렌드 (중국 신만굉원 증권)

>>엔비디아 ‘신비의 칩’... 추론 시대 개막과 4대 연산 트렌드 (중국 신만굉원 증권) •엔비디아가 LPU 기술을 통합한 신규 추론 전용 칩을 준비 중이라는 보도가 나오면서, AI 연산의 중심이 ‘학습’에서 ‘추론‘으로 이동하고 있다는 분석이 제기됐음. OpenAI 역시 대규모 자금을 투입해 추론 인프라 확충에 나선 것으로 전해지며, 산업의 무게중심 변화가 가속화되는 모습 •중국 Shenwan Hongyuan 리서치는 추론 시대가 본격화되며 네 가지 구조적 변화가 나타나고 있다고 분석했음. 1 CPU 배치 시나리오 확대 : 대규모 학습은 GPU 중심이지만, 추론은 엣지·온디바이스·경량 서버 등 다양한 환경에서 이뤄지며 CPU 활용 장면이 늘어나고 있음. 특히 비용·전력 효율을 중시하는 기업 환경에서 CPU+가속기 혼합 구조가 확산되는 추세임. 2 LPU 등 추론 특화 아키텍처 부상 : GPU 범용 구조 대비 전력 대비 성능비를 극대화한 추론 전용 칩 설계가 부각되고 있음. 대량의 Token을 빠르게 처리하는 것이 핵심 경쟁력이 되면서, 전용 가속기 설계 기업들이 새로운 수혜군으로 부상 중임. 3 국산(중국) 칩 가속 돌파 : 학습용 최첨단 GPU 제약 환경 속에서, 상대적으로 기술 장벽이 낮은 추론 칩 영역은 자국 반도체 기업의 돌파구가 될 수 있다는 평가임. 추론 수요의 폭발적 증가가 기술 축적과 생태계 형성을 동시에 자극하는 구조임. 4 연산 수요의 ‘학습 → 대규모 Token 소비’ 전환 : 초기에는 모델 학습이 연산 수요를 주도했으나, 이제는 실제 서비스 단계에서 발생하는 방대한 추론 Token 소비가 핵심 수요로 전환되고 있음. 즉, 모델 1회 학습보다 수십억·수조 Token의 실시간 처리 능력이 더 중요한 시대에 진입하고 있다는 의미임.