IBK투자증권

IT/반도체 김운호 연구위원 [IBKS Memory Dynamics] 아직도 메모리가 부품 따위로 보이세요? https://zrr.kr/Qi628M IBK투자증권에서 반도체 담당하는 김운호입니다. 삼성전자 26년 1분기 잠정실적이 매출액 133조원, 영업이익 57조원으로 발표되었습니다. 시장 예상치를 크게 상회하는 수준입니다. 가격 상승이 주된 원인으로 보입니다. 사상 최대 수준의 매출액과 영업이익률을 기록한 분기일 텐데 분기 최대 실적은 매 분기 갱신할 가능성이 높아 보입니다. 메모리에 대한 수요가 기대보다 엄청 높다는 걸 방증한 실적이라 생각합니다. 이번 보고서는 시황이나 가격보다는 다소 생뚱 맞은 주제일 수도 있겠습니다. 지난 NVIDIA GTC 참관 보고서 “전쟁과 유가의 무풍지대”(26.3.27)에서 언급한 AI 모델의 진화와 밀접한 관련이 있는 내용인데 LPU가 메모리 구조에 미치는 영향에 대한 분석입니다. 다소 이론적이고 전문적 표현이 많아서 이해하는데 어려움이 있을 수 있겠지만 최대한 풀어서 쓰는데 노력을 했습니다. LPU(Language Processing Unit)는 Groq이 만든 AI 추론 전용 프로세서입니다. NVIDIA의 Vera Rubin System에 LPX라는 유닛으로 장착됩니다. LPX는 LPU 256개로 구성되어 있는 Rack 단위 시스템으로 보면 됩니다. 이게 왜 문제가 되냐 하면 AI 추론 과정에서 decode 단계가 있는데 여기에 개입하기 때문입니다. Decode에 대해서는 뒤에 자세히 설명이 되어 있습니다. 간단히 정리하면 질문에 대한 답을 하기 위해서 토큰 하나 하나 구성하는 과정으로 이해하시면 됩니다. 기존 decode는 GPU+HBM이 했던 역할입니다. 연산 과정이 길어지고 복잡해지면서 메모리는 Full stack으로 진화하고 있는 중입니다. 이 과정에서 decode 단계가 분화되고 좀 더 빠른 속도를 지원하고 반복적인 내용을 처리하는데 특화된 게 LPU+SRAM 시스템으로 보면 됩니다. 결론적으로 LPU는 HBM을 잠식하는 것이 아니라 HBM의 부담을 덜어 좀 더 역할에 충실하게 만드는 장치로 이해하면 됩니다. 그리고 이제는 AI 메모리가 단순히 GPU+HBM 구조가 아니라 LPU+SRAM, GPU+HBM, CPU+DRAM+NAND까지 확장되고 있다고 이해하면 됩니다. 본문 내용은 아니지만 최근 Omdia는 DRAM 수요 Bit Growth를 23.1%에서 27.8%로 상향 조정했습니다. 서버 Bit Growth가 41.2%에서 55%로 상향 조정된 영향입니다. PC는 2.5%, 모바일은 -1.8%로 하향 조정했습니다. 서버 Unit Growth는 11%로 보수적이지 않나 싶었는데 마이크론도 비슷하게 전망하고 있는 상황입니다. 가격은 지난 달에 비해서 더 높아진 수준입니다. 2분기 고정 가격은 확정적이진 않지만 공급업체들이 레벨을 계속 높이고 있는 상황으로 보입니다. 보고서는 30% 수준으로 전망하지만 들리는 수준은 이 보단 높을 것으로 보입니다. - 동 자료는 컴플라이언스 규정을 준수하여 사전 공표된 자료이며, 고객의 증권 투자 결과에 대한 법적 책임소재의 증빙자료로 사용할 수 없습니다. - 본 내용은 당사 컴플라이언스의 승인을 받아 발송되었습니다.