안녕하세요! 오늘은 최근 AI 산업의 가장 뜨거운 감자인 '전력 문제'와 이를 해결하기 위한 국산 기술의 도전 소식을 가져왔어요. 최근 AI 모델이 거대해지면서 데이터센터가 사용하는 전력량이 어마어머하게 늘어나고 있다는 이야기, 한 번쯤 들어보셨죠?

데이터센터의 병목, '전력'을 잡아야 합니다

최근 열린 'K-클라우드 테크 데이 2026'에서는 아주 흥미로운 발표가 있었는데요. 바로 하이퍼엑셀을 필두로 리벨리온, 네이버클라우드 등 국내 유수의 기업들이 힘을 합쳐 K-컴포저블 클러스터를 구축한다는 소식이에요.

지금의 데이터센터는 서버를 구축할 때 자원을 정적으로 할당하기 때문에 실제 활용률이 낮다는 문제점이 있어요. 하지만 이번 프로젝트는 NPU, 메모리, CPU 같은 자원을 물리적으로 분리한 뒤, 필요한 만큼 동적으로 할당하는 차세대 아키텍처를 지향하고 있습니다. 이를 통해 전력 인프라 업그레이드에 걸리는 시간과 비용 문제를 해결하겠다는 멋진 계획을 가지고 있어요.

효율은 높이고 비용은 뚝! 하이퍼엑셀의 '베르사'

특히 눈길을 끄는 건 하이퍼엑셀이 선보인 LPU '베르사(Bertha)'예요. 기존 GPU가 가진 데이터 이동 병목 현상을 줄여 메모리 대역폭 활용률을 최대 90%까지 끌어올렸다고 해요.

무엇보다 놀라운 점은 고가의 HBM 대신 저전력 LPDDR5X 메모리를 채택했다는 점인데요. 덕분에 인프라 초기 구축 비용을 대폭 절감하면서도 전력 소모를 낮출 수 있게 되었죠. 연산 단계에 따라 LPU와 GPU를 나누어 사용하는 하이브리드 방식까지 도입한다면 시스템 처리량이 최대 3배까지 늘어날 수 있다고 하니 정말 기대되지 않나요?

앞으로의 변화가 기대되는 이유

개인적으로 이번 소식을 보며 느낀 점은, 이제 AI 경쟁의 핵심이 단순히 '더 큰 모델'을 만드는 것을 넘어 '얼마나 효율적인 인프라를 갖추느냐'로 이동하고 있다는 사실이에요.

국내 기업들이 힘을 합쳐 자원 할당의 효율을 극대화하는 기술을 개발하고 있다는 점은 글로벌 시장에서도 매우 강력한 경쟁력이 될 것 같아요. 전력 부족이라는 거대한 장벽을 우리 기술로 넘어서는 모습, 앞으로의 행보를 설레는 마음으로 지켜봐야겠습니다!

본 포스팅은 매일테크에서 발행되었습니다.