Moonshot's Kimi K3 May Be More About Memory Than Compute (7/20, 어제)

- 2025년 초 딥시크(DeepSeek)의 R1이 처음 공개됐을 때, AI가 예상보다 적은 컴퓨팅 파워만 필요로 할 것이라는 우려가 번지며 엔비디아(Nvidia) 시가총액이 하루 만에 약 6,000억 달러 증발했음. - 지난 금요일 문샷 AI(Moonshot AI)가 내놓은 키미 K3(Kimi K3) 역시 비슷한 반응을 촉발하며 반도체 주가를 큰 폭으로 끌어내렸음. - 다만 이런 비교는 중요한 차이를 놓치고 있을 수 있음. - 딥시크의 돌파구는 AI 모델을 더 저렴하게 학습시키고 구동하는 데 초점이 맞춰져 있었음. - 키미 K3도 컴퓨팅 효율을 개선했지만, 훨씬 더 큰 모델을 통해 그렇게 했고, 그만큼 메모리 인프라에 더 무거운 부담을 지움. - 이는 SK하이닉스의 고대역폭 메모리(HBM), 엔비디아의 최신 AI 시스템, 그리고 TSMC의 첨단 반도체 제조에 대한 수요를 계속 뒷받침할 수 있음 - 모델 제작사들의 공시 자료를 블룸버그가 취합한 데이터에 따르면, 키미 K3는 2조 8,000억 개의 파라미터를 담은 중국 최대 규모의 모델로, 컴퓨팅 효율을 나타내는 지표인 희소성 비율(sparsity ratio)을 사상 최고치로 끌어올렸음. - 비율이 높다는 것은 모델 전체 크기 대비 각 작업에 활성화되는 파라미터 수가 더 적다는 것을 뜻함. - 그러나 이 2조 8,000억 개의 파라미터는 하나도 빠짐없이 여전히 메모리에 저장돼야 함 - 더 낮은 정밀도의 데이터 형식으로 모델을 압축한 뒤에도 키미 K3는 약 1.4테라바이트의 메모리를 차지함 - 따라서 이 모델을 구동하려면 엔비디아의 블랙웰 GB300(Blackwell GB300) 시스템처럼 메모리가 풍부한 AI 프로세서 클러스터가 필요함 - 또 다른 분기점도 다가오고 있음. - 문샷은 7월 27일 키미 K3의 모델 가중치를 공개할 계획으로, 이를 통해 기업들은 문샷의 클라우드 서비스를 거치지 않고 직접 모델을 구동할 수 있게 됨 - 소프트웨어 자체는 무료로 제공되지만, 이를 대규모로 배포하려는 조직은 여전히 상당한 AI 하드웨어가 있어야 함. - 한편 알리바바(Alibaba)도 주말 사이 큐원 3.8-맥스(Qwen 3.8-Max) 프리뷰를 공개했는데, 이는 2조 4,000억 개의 파라미터를 갖춘 모델로 선도적인 프런티어 모델들과 대등한 성능을 낸다고 함. - 다만 아직 벤치마크 결과는 공개하지 않았음 - 중국 AI 개발사들이 자국산 칩에 맞춰 모델을 점점 더 최적화하면서, 중국의 하드웨어 생태계가 수혜를 볼 수 있다는 관측이 나옴. - 이러한 낙관론에 힘입어 월요일 기술주 중심의 촹예반(ChiNext) 지수는 장중 한때 3.6%까지 올랐음 - 이처럼 잇단 모델 공개는 첨단 AI 모델 경쟁이 오픈AI(OpenAI)와 앤트로픽(Anthropic PBC) 같은 미국 프런티어 연구소를 넘어 확산되고 있음을 시사 - 이는 미국 모델 공급업체들의 가격 결정력에 압박을 가하는 한편, 갈수록 강력해지는 AI 시스템을 구동하는 데 필요한 인프라 투자를 계속 촉진할 수 있음. https://www.bloomberg.com/news/articles/2026-07-20/moonshot-s-kimi-k3-may-be-more-about-memory-than-compute