개발자 문서 데모 요청
데모 요청

활용 사례 18 · 통신·인프라

테크 인프라 데이터센터 전력·발열 부하 예측 밸런싱

서버 발열 임계값과 지역 전력 가격에 기반한 실시간 AI 연산 부하 라우팅.

데이터센터 운영 부사장 최고지속가능책임자
이미지: 테크 인프라 데이터센터 전력·발열 부하 예측 밸런싱

고객 니즈 및 문제점

이 워크플로가 해소하는 문제.

  • 피크 AI 추론 워크로드 구간에서 전기 요금이 급등하고 발열로 인한 스로틀링이 발생합니다.

단계별 실행

엔진이 실행하는 방식.

01

엣지 인제스트

모듈 1

랙 온도, 서버 사용률, 지역 전력망 현물 가격을 실시간으로 모니터링합니다.

02

멀티 LLM 라우팅

모듈 1

고부하 LLM 라우팅 작업 중 발열 상승을 예측합니다.

03

에이전틱 AI

모듈 4

모델 처리 워크로드를 온도가 낮은 보조 데이터센터 노드로 동적으로 재라우팅합니다.

04

에이전틱 AI

모듈 4

산업용 IoT 연동을 통해 HVAC 냉방 설정을 동적으로 조정합니다.

정량적 ROI 및 성과

상업적으로 달라지는 부분.

  • 데이터센터 냉방 비용 16.8% 절감
  • 열로 인한 다운타임 0건

결정적 순간

“이제 워크로드 라우팅이 모델 지연시간과 실시간 전력 비용을 함께 고려해 자동으로 이뤄집니다.”
인프라 책임자 — 하이퍼스케일 클라우드 사업자