이 PC에서도 알림 받기관심종목·키워드 소식과 운영자 공지를 크롬·엣지 알림으로 받아요. 언제든 「내 정보」에서 끌 수 있어요.
독립리서치
구글 TPU 8tx·8i Max 발표...SemiAnalysis InferenceX “Muse Spark Open” 추론 비용 효율 비교에서 TPU7x, 고속 …
💻 구글 TPU 8tx·8i Max 발표...SemiAnalysis InferenceX “Muse Spark Open” 추론 비용 효율 비교에서 TPU7x, 고속 구간 우위
📌 구글 신규 TPU 발표
구글이 기밀 추론(confidential inference)용 TPU 8tx와 TPU 8i Max를 발표했다는 소식
TPUv7 추론 스택(Muse Spark Open, SGLang, RadixArk 등)의 진전이 TPUv8 시리즈로도 상당 부분 이전될 수 있다는 평가
📌 InferenceX 비교 결과 (Muse Spark Open 816B, 에이전틱 워크로드)
달러당 총 처리 토큰(TCO 기준)을 사용자당 초당 토큰(P90 interactivity)별로 비교, SGLang 기준 TPU7x vs GB200 NVL72
낮은 인터랙티비티(약 100~190 tok/s/user)에서는 GB200이 소폭 우위, 약 190~200 tok/s/user에서 교차
그 이상 구간에서는 TPU7x가 우위로, 250 tok/s/user 부근에서 달러당 약 45M 토큰 대 GB200 약 35M 토큰
TPU7x는 약 430 tok/s/user까지 달러당 약 18M 토큰을 유지한 반면, GB200은 약 390 tok/s/user에서 약 11M 토큰 수준
📌 TCO 가정
대형 하이퍼스케일러 물량 보유 기준 칩당 시간당 비용은 GB200 1.86달러, TPU7x 1.21달러로 TPU가 약 35% 낮음
💻반도체 소부장💻[그로쓰리서치]
https://telegram.me/growth_semi
Telegram
💻반도체 소부장💻[그로쓰리서치]
✅“AI 반도체 시대, 소재·부품·장비의 리서치 채널”✅ 채널이 다루는 핵심 영역 ① 소재 (Materials) ② 부품 (Components) ③ 장비 (Equipment) “복잡한 반도체 공급망을 쉽게 번역한다”
외부 자료를 정리한 참고자료이며 투자 권유가 아닙니다. 기사·리포트의 저작권은 원저작자에게 있습니다. · 게시중단 요청