기획① AI 데이터센터, GPU 확보 경쟁 넘어 '전력 효율' 전쟁으로

AI 인프라 투자 확대에 전력 확보가 최대 과제로 부상
GPU·HBM 고집적화 기술 주목…유리기판이 새로운 대안 될까
같은 전력으로 더 많은 AI 연산 처리하는 기업이 경쟁력 확보


인공지능(AI) 데이터센터 산업의 경쟁 구도가 빠르게 변화하고 있다. 그동안 글로벌 기술기업들이 더 많은 그래픽처리장치(GPU)를 확보하고 대규모 데이터센터를 건설하는 데 집중했다면, 앞으로는 동일한 전력과 공간에서 얼마나 많은 AI 연산을 처리할 수 있느냐가 경쟁력을 좌우할 핵심 변수로 떠오르고 있다.

이 같은 변화 속에서 차세대 반도체 패키징 기술인 유리기판(Glass Substrate)이 AI 데이터센터의 효율성을 높일 잠재 기술로 주목받고 있다. 유리기판은 기존 유기물 기반 반도체 패키지 기판보다 미세 배선과 대면적 패키지 구현에 유리한 특성을 갖는다. GPU와 고대역폭메모리(HBM)의 연결 구조를 개선하면 데이터 전송 과정에서 발생하는 병목을 완화하고 전력당 연산 처리량을 높일 가능성이 있다는 평가다.

◇ AI 데이터센터의 최대 걸림돌은 전력 = AI 데이터센터 산업이 직면한 가장 큰 과제 중 하나는 전력 확보다. AI 모델의 학습과 추론에 필요한 연산량이 급증하면서 글로벌 기술기업들은 고성능 GPU 클러스터 구축에 막대한 자금을 투입하고 있다. 그러나 데이터센터를 건설할 부지를 확보하더라도 필요한 전력을 공급받지 못하면 설비를 정상적으로 운영하기 어렵다.

전력망 확충과 변전시설 구축, 냉각 설비 설치에는 상당한 시간과 비용이 든다. 데이터센터 운영업체들이 GPU를 추가로 확보하는 것만큼이나 기존 인프라의 활용 효율을 높이는 데 주목하는 이유다. 제한된 전력으로 더 많은 연산을 처리할 수 있다면 데이터센터의 증설 부담을 줄이면서 AI 서비스 수요에 대응할 수 있기 때문이다.

예를 들어 100MW 규모의 전력을 공급받는 데이터센터가 같은 전력으로 더 많은 연산을 처리할 수 있게 되면, 전력 인프라를 추가로 확충하지 않고도 처리 능력을 높일 수 있다. 특히 전력 공급 여력이 제한적이거나 전력 인프라 확충에 오랜 시간이 걸리는 지역에서는 효율 개선의 경제적 가치가 더욱 커질 수 있다.


◇ 반도체 패키징이 데이터센터 경쟁력을 좌우한다 = AI 반도체의 성능 경쟁은 GPU 자체의 연산 능력에서 반도체 간 데이터 전송 효율로 확대되고 있다. 고성능 AI 가속기는 GPU와 HBM 사이에서 방대한 데이터를 주고받는다. GPU의 연산 능력이 아무리 높더라도 메모리에서 필요한 데이터를 충분히 빠르게 공급하지 못하면 전체 시스템의 성능이 제한될 수 있다.

유리기판은 이 같은 문제를 완화할 수 있는 차세대 패키징 기술 가운데 하나로 평가된다. 유리 소재는 높은 평탄도와 치수 안정성을 갖춰 미세 배선과 고밀도 반도체 연결 구조를 구현하는 데 유리하다. 최적화된 반도체 설계와 결합될 경우, 칩 간 연결 밀도를 높이고 신호 전달 특성을 획기적으로 개선할 수 있다는 평가다.

실제 업계에서도 첨단 패키징의 중요성을 목소리 높여 강조하고 있다. 립부 탄 인텔 최고경영자(CEO)는 지난 7월 "AI 시스템의 성능과 효율을 극대화하는 데 첨단 패키징 기술이 핵심적인 역할을 하고 있다"고 진단한 바 있다. GPU 단일 성능 향상을 넘어 칩 간 연결과 패키징 구조까지 최적화해야 하는 시점에서, 유리기판과 같은 차세대 패키징 기술이 AI 인프라 효율화의 새로운 열쇠로 주목받는 이유다.

다만 유리기판이 GPU와 HBM 사이의 모든 데이터 전송 한계를 단번에 해결하는 만능열쇠는 아니다. 실제 현장에서의 성능 개선 폭은 전반적인 반도체 회로 구조, 메모리 기술, 패키징 공정 방식 등의 유기적인 결합에 따라 좌우될 전망이다.


◇ GPU 수량보다 전력당 처리량이 중요해진다 = 데이터센터 운영업체 입장에서 중요한 것은 GPU의 절대적인 성능보다 실제 서비스에 활용할 수 있는 연산 처리량이다. 동일한 전력과 서버 공간에서 더 많은 AI 추론 요청을 처리하거나 대규모 모델 학습 시간을 단축할 수 있다면 설비 활용도를 높일 수 있다. 이는 추가적인 데이터센터 건설 없이도 기존 인프라에서 더 많은 서비스를 제공할 가능성을 의미한다. 특히 AI 서비스를 유료로 제공하는 클라우드 사업자에게는 처리 가능한 작업량 증가가 매출 확대 기회로 이어질 수 있다.

처리 성능 향상이 실제 수익 증가로 연결되려면 충분한 고객 수요와 높은 서버 가동률이 뒷받침돼야 한다. 결국 AI 데이터센터 산업의 경쟁력은 GPU를 얼마나 많이 보유했느냐를 넘어 확보한 전력과 설비를 얼마나 효율적으로 활용하느냐에 따라 달라질 전망이다.

젠슨 황 엔비디아 CEO는 1월 미국 라스베이거스에서 열린 가전·IT 전시회 ’CES 2026’에서 "AI 인프라의 핵심은 칩의 개수가 아닌 ‘제한된 전력 내 연산 효율성’"이라며 "폭증하는 추론 수요 속에서 데이터센터의 가치는 물리적 공간이나 전력 소비량을 넘어 ‘지능의 효율성’으로 평가받으며 이를 극대화하는 곳이 차세대 AI 팩토리 시장을 주도하게 될 것"이라고 강조했다.

제조·완제품: SKC(앱솔릭스), 삼성전기, LG이노텍, 제이앤티씨
가공·장비: 필옵틱스, 켐트로닉스, HB테크놀러지, 태성, 기가비스, 나인테크
소재: 와이씨켐, 와이엠티, 램테크놀로지, 케이씨텍