연산량 줄여도 메모리 더 쓴다...구글·키미의 ‘역설’

💻 연산량 줄여도 메모리 더 쓴다...구글·키미의 ‘역설’ https://www.sedaily.com/article/20070121?ref=naver 📌 구글, 제미나이 전용 AI 칩 개발 구글, 2028년 데이터센터 적용 목표의 AI 특화칩 '프로즌 v2' 개발 제미나이 연산을 칩에 하드코딩해 TPU 대비 토큰 처리량 6~10배 향상 목표 TSMC 생산능력 부족으로 삼성전자 파운드리 활용 가능성도 거론 📌 AI 연산 효율화 경쟁 본격화 문샷AI '키미 K3', 2.8조개 파라미터 기반 MoE 구조로 연산량은 줄이고 성능 유지 필요한 모듈만 활성화해 추론 효율은 높였지만 전체 파라미터는 메모리에 상시 저장 필요 📌 효율화에도 HBM 수요 확대 키미 K3 구동에는 저정밀도 기준 약 1.4TB 메모리 필요, 엔비디아 GB300급 AI 랙 요구 연산 효율 개선과 별개로 대용량 HBM 탑재 수요는 지속 확대 전망 📌 삼성·SK하이닉스 수혜 기대 구글 AI 칩 확대 시 삼성전자 파운드리와 SK하이닉스 HBM 공급 기회 확대 가능 중국 AI 기업의 미국 파운드리 제약도 국내 메모리 업체에 우호적 환경 조성 💻반도체 소부장💻[그로쓰리서치] https://t.me/growth_semi