AI 데이터 센터는 전력 인프라 설계의 규칙을 다시 작성하고 있습니다. 기존 CPU 서버 랙은 한때 약 10kW를 소비했습니다. 완전히 구성된 NVIDIA GB200 NVL72 랙은 이제 약 120kW를 소비하며, 2026년 로드맵은 이미 600kW에 근접하는 랙을 가리키고 있습니다. 동시에,국제 에너지 기구(International Energy Agency)는 2030년까지 전 세계 데이터 센터 전력 수요가 두 배 이상 증가하여 약 945TWh에 이를 것으로 예상합니다., AI가 단일 가장 큰 동인입니다. 운영자의 경우 이는 핵심 질문으로 이동합니다. 더 이상은 아니다"전체 용량이 충분합니까?"하지만"우리의 전력 아키텍처가 유틸리티 연결에서 각 고밀도 GPU 랙까지 명확하고 중복되며 눈에 보이는 전력을 전달할 수 있나요?"-
AI 랙에는 실제로 얼마나 많은 전력이 필요합니까?
"상당히 더 많은 전력"은 계획 수치가 아닙니다. 정직한 대답은 AI 랙 전력이 GPU 플랫폼, 이중화 목표 및 냉각 방법에 따라 다르지만 이제 공개 참조 포인트는 설계에 충분히 구체적이라는 것입니다.
- 범용-용 CPU 랙:최대 약 12kW.
- 공냉식-H100급 랙:대략 40kW, 실제 공기 한도에 가깝습니다.
- 엔비디아 GB200 NVL72:랙당 약 120kW, 완전 구성 시 약 132kW가 415~480V 3상- DC 버스바로 공급되는 여러 전원 선반을 통해 전달됩니다.
- 차세대(2026 로드맵):랙-규모 시스템은 240~600kW로 예상됩니다.
이것이 얼마나 극단적인지에 대한 맥락은 다음과 같습니다.Uptime Institute의 2025년 글로벌 설문조사평균 랙 밀도는 대략 9kW이며, 80% 이상의 운영자는 여전히 30kW 이상의 랙이 없다고 보고합니다.100kW 이상의 랙을 운영하는 운영자는 1% 미만입니다., 그리고 이를 수행하는 기업은 대부분 기존의 고성능 컴퓨팅을 실행하고 있습니다-. 즉, 단일 GB200 포드는 업계의 99%가 한 번도 해본 적이 없는 일을 건물에 요구합니다. 원시 메가와트가 아닌 그 격차가 대부분의 AI 전력 프로젝트가 문제를 일으키는 지점입니다.
AI 워크로드가 기존 전력 가정을 깨는 이유
AI 훈련, 추론 및 HPC는 가속기, 서버, 스토리지 및 대규모 메시로 구성된 밀집된 클러스터에 의존합니다.고속-광섬유 네트워킹. 이러한 시스템은 기존 기업 IT처럼 작동하지 않습니다. 전통적인 랙은 꾸준한 추첨을 중심으로 계획되었습니다. AI 랙은 최대 전력을 훨씬 더 높이며 GPU가 함께 증가함에 따라 소비량을 급격하게 변화시킵니다. 수십 개의 랙이 동시에 이 작업을 수행하면 효과는 캐비닛을 지나 분기 회로, 랙 PDU, 배포 경로, UPS 모듈 및 냉각 플랜트에 도달합니다.
이것이 바로 AI-지원 역량을 하나의 엔드{1}}대{2}}시스템으로 취급해야 하는 이유입니다. 유틸리티 입력, 스위치기어, UPS, 배전, 버스웨이, 랙 PDU, 모니터링 및 냉각은 여기서 별도의 조달 항목이 아닙니다. 그들은 단일 체인이며 체인은 가장 약한 링크만큼만 배포 가능합니다.
중요한 AI 데이터 센터 전력 문제
1. 랙 전력 밀도가 기존 인프라를 능가합니다.
가장 눈에 띄는 과제는 바닥 공간과 전기 용량이 더 이상 일치하지 않는다는 것입니다. 캐비닛당 8~10kW 등급의 공간에서는 타일이 비어 있다는 이유만으로 120kW 랙을 호스팅할 수 없습니다.
이것이 실제로 의미하는 바는 다음과 같습니다.개조 시 첫 번째 벽이 총 유틸리티 용량이 되는 경우는 거의 없습니다. 이는 분기-회로 수, 버스 통로 용량, 바닥 하중(GB200급 랙이 1,300kg을 초과함) 또는 단순히 문과 통로 공간입니다. 많은 회의실에서는 캐비닛당 제공 가능한 앰프가 부족하고 홀의 메가와트가 고갈되기 훨씬 전에 구조적 헤드룸이 부족해집니다. 랙 수준과 클러스터 수준 모두에서 용량을 계획하고 각 캐비닛에 실제로 배치할 수 있는 사용 가능한 앰프 수를 확인하십시오.
2. 동적 GPU 부하 스트레스 UPS 과도 응답
AI 로드는 버스티되고 동기화됩니다. 집단적 전체 감소 단계 또는 체크포인트 쓰기는 클러스터의 무승부를 밀리초 단위로 수십 퍼센트 이동한 다음 다시 삭제할 수 있습니다.
이것이 실제로 의미하는 바는 다음과 같습니다.이중-변환 UPS에서 이러한 스윙은 인버터와 정적 바이패스가 깔끔하게 통과해야 하는 부하 단계로 나타납니다. -조율이 부족한 차단기는 상승세에 방해가 될 수 있으며-수일간의 훈련을 중단할 수 있습니다.- 제대로 공유되지 않은 병렬 UPS 모듈은 일시적인 동안 서로 싸울 수 있습니다. 빠른 부하 단계를 위해 UPS 및 보호를 지정하고 명판 평균이 아닌 실제 부하 프로필에 대해 차단기 조정을 확인합니다. 시설 규모에 따른 이러한 변동을 흡수하기 위해 현장-배터리 저장 장치가 점점 더 많이 사용되고 있습니다.
3. GPU 랙을 위한 고밀도 전력 분배
정적 엔터프라이즈 로드에 적합한 고정 배포 경로는 밀도가 높은 GPU 행, 단계적 성장 및 A/B 중복 피드를 동시에 지원하는 경우가 거의 없습니다.
이것이 실제로 의미하는 바는 다음과 같습니다.A/B 피드에서 실제 테스트는 장애 조치 사례입니다. 하나의 경로가 중단되면 나머지 경로는 해당 차단기를 초과하거나 인접한 캐비닛을 굶기지 않고 전체 랙 부하를 전달해야 합니다. 중복 로드 대신 N 용량에 맞게 각 피드의 크기를 조정하는 것은 일반적이고 비용이 많이 드는 실수입니다. 오버헤드 버스웨이를 사용하면 고정형 휩보다 용량을 추가하거나 재배치가 더 쉬운 경우가 많지만 올바른 선택은 밀도, 공간 레이아웃 및 유지 관리 전략에 따라 달라집니다.
분배는 또한 케이블링이 동일한 트레이 및 도관에 대한 전력과 경쟁하는 곳이기도 합니다. 단일 120kW 포드는 리프 및 스파인 스위치에 대한 수백 개의 파이버 연결을 종료하고 해당 파이버는 전원 공급 장치와 라우팅 및 공기 흐름 경로를 공유합니다. 촘촘한 줄에,MPO/MTP 트렁크 케이블링공기 흐름이나 서비스 액세스를 차단하지 않도록 연결 수와 대량 관리를 유지합니다. 도달 범위도 중요합니다. 짧은 GPU-에서-리프 링크는 일반적으로 멀티모드에서 실행되는 반면 스파인 및 캠퍼스 링크는단일{0}}모드(OS2) 광섬유더 먼 거리를 위해.
4. 전력 품질이 비즈니스 연속성 문제가 됨
AI 시설에서 전력 품질은 단순한 전기적 문제가 아닙니다. 이는 가동 시간, 하드웨어 수명 및 훈련 실행의 지속 여부에 직접적인 영향을 미칩니다.
이것이 실제로 의미하는 바는 다음과 같습니다.높은-파고율-스위치-모드 부하 및 불균형 단상 탭-오프는 중성 전류, 고조파 왜곡 및 위상 불균형을 상향 조정합니다. 모니터링하지 않은 채 방치하면 불균형은 일반적으로 깔끔한 대시보드 경고가 아닌 뜨거운 연결 또는 트립된 분기로 먼저 나타납니다. IT 비용이 많이 들고 정전으로 인한 비용도 많이 들기 때문에 차단기가 문제를 찾아줄 때까지 기다리지 말고 전력 품질을 지속적으로 모니터링하세요.
5. 전력과 냉각은 함께 계획되어야 합니다
IT에 전달되는 모든 와트는 제거해야 할 열이 됩니다. 랙당 약 30kW를 초과하는 경우 공냉식은 더 이상 실행 가능하지 않습니다. 이것이 바로 -칩에 대한-직접 액체 냉각이 이제 GB200급 시스템의 표준이 된 이유입니다.ASHRAE의 TC 9.9 위원회열 지침에 고밀도(H1) 등급을 추가하고 2024년에는 냉각수 분배 장치(CDU) 경계, 갑작스러운 부하 변화에 대한 열 관성, 과도 모델링을 다루는 액체 냉각 복원력에 대한 기술 게시판을 게시했습니다.
이것이 실제로 의미하는 바는 다음과 같습니다.냉각판은 대부분의 GPU 열을 CDU로 이동하지만 랙 부하(메모리, NIC, 광학 장치, 전력 변환)의 10~20%는 공랭 상태로 유지될 수 있으므로{2}}방은 여전히 공기 처리가 필요합니다. 랙이 도착하기 전에 CDU 배치, 냉각수 공급 온도(일반적으로 약 25~45도), 흐름 균형 및 누출{6}}감지 라우팅이 모두 해결되어야 합니다. 각 스위치에서-서버로의 팬아웃 -MPO/MTP 브레이크아웃 케이블링-는 냉각이 필요한 경로에 위치하지 않도록 의도적으로 라우팅되어야 합니다.
열 차단을 검증하지 않고 전력 용량을 승인하지 마십시오. 부하를 제거할 수 없는 냉각은 고밀도 전력 용량이 정체되어 사용할 수 없게 되는 가장 일반적인 이유 중 하나입니다.{1}}
6. 제한된 가시성으로 인해 용량 계획이 위험해집니다.
룸-레벨 또는 UPS{1}}레벨 모니터링은 AI 홀에서 중요한 사항, 즉 위상별 불균형, 국지적 과부하, 랙-급 스파이크, 분기-회로 제약, 이중화 저하, 용량 부족 등 AI 홀에서 중요한 사항을 정확하게 숨깁니다.
이것이 실제로 의미하는 바는 다음과 같습니다.콘센트별 측정, 지점-회로 모니터링, UPS 원격 측정 및 DCIM 통합 기능을 갖춘 지능형 랙 PDU를 사용하면 팀이 실시간으로 세 가지 질문에 답할 수 있습니다. - 현재 사용 중인 용량은 얼마인지, 위험은 어디에 있는지, 안전하게 추가할 수 있는 추가 AI 로드는 얼마나 되는지입니다. 이러한 세분성이 없으면 용량 계획은 추측일 뿐이며 문제의 첫 번째 징후는 출장입니다.
7. 확장성과 그리드 제약으로 인해 AI 배포가 느려짐
이제 AI 성장은 기존 계획 주기를 앞지릅니다. 바닥 공간이 있어도 사이트에는 차세대 GPU를 위한 유틸리티, UPS, 배전 또는 냉각 용량이 부족할 수 있습니다. 데이터 센터 수요로매년 약 15~17% 증가, 제한된 시장에서 유틸리티 상호 연결 리드 타임이 수년으로 늘어났기 때문에 일부 개발자가 현장 발전 및 배터리 저장 방식으로 눈을 돌리고 있습니다.-
이것이 실제로 의미하는 바는 다음과 같습니다.단일 하드웨어 세대 - 모듈식 UPS, 확장 가능한 분배, 버스웨이- 기반 용량 추가, 표준화된 랙 전원 블록, 명확한 중복성 및 트리거 포인트 대신 단계적 성장을 위한 설계입니다. 목표는 첫날 시스템을 최대한 늘리는 것이 아니라 시간이 지남에 따라 사용 가능하고 배포 가능하며 유지 관리 가능한 용량입니다.{3}}
기존 vs AI 데이터 센터 전력 설계
| 영역 | 기존 데이터 센터 | AI 데이터센터 |
|---|---|---|
| 랙 밀도 | 보통, 예측 가능(종종 10kW 미만) | 높고 빠르게 상승(랙당 100kW 이상 가능) |
| 부하 동작 | 비교적 안정적 | 동적, 버스티, 동기화 |
| 기획모델 | 방-수준 또는 행-수준 | 랙-수준 및 클러스터-수준 |
| UPS 우선순위 | 용량 및 백업 런타임 | 용량, 중복성 및 과도 응답 |
| 분포 | 고정되거나 느리게-변경됨 | 유연하고 확장 가능- |
| 모니터링 | 회의실, UPS 또는 랙 수준 | 시스템, 분기, 단계, 랙 및 콘센트 수준 |
| 냉각관계 | 종종 별도로 계획됨 | 처음부터 힘을 합쳐서; 액체 냉각 공통 |
| 주요 위험 | 총 용량이 부족합니다. | 좌초된 용량, 과부하, 불안정, 열 제한 |
고밀도 AI 랙을 위한 전력 인프라를 계획하는 방법-
1단계: 랙-수준 및 클러스터{2}}수준 수요 정의
워크로드 및 하드웨어 계획부터 시작하세요. GPU, 서버, 네트워킹, 스토리지 및 랙{1}}레벨 전력 장비를 포함하여 각 랙, 각 클러스터 및 각 배포 단계의 수요를 추정합니다. 현실적인 성장 가정을 사용하세요. - AI 하드웨어는 빠르게 교체되므로-첫 번째 로드는 잘못된 설계 목표입니다.
2단계: 업스트림 용량 및 중복성 확인
유틸리티 서비스, 스위치기어, 변압기, UPS, 배전반, 버스웨이 또는 케이블, 랙 PDU, 분기 회로 및 A/B 피드 등 전체 경로를 살펴보세요. 시스템이 일반 모드뿐만 아니라 유지 관리 또는 오류 조건에서도 예상 로드와 이중화 수준을 모두 지원하는지 확인하세요.
3단계: UPS 아키텍처를 AI 로드 동작과 일치
과거의 총 kW를 살펴보세요. 과도 응답, 확장성, 중복성(N+1 또는 2N), 부분-부하 효율성, 배터리 런타임, 병렬 작동 및 모니터링을 평가합니다. 모듈형 UPS는 첫날부터 용량을 초과하지 않고 용량을 추가하므로 클러스터가 단계적으로 확장될 때 유용합니다.
4단계: 유연한 배전 선택
고밀도{0}}행은 일반적으로 정적 패널-및-휩 디자인보다 더 많은 유연성이 필요합니다. 기존 패널 분배, 오버헤드 버스웨이, 고밀도 랙 PDU, 이중 피드 및 지능형 계량을 비교해 보세요. 새로운 AI 홀은 미래의 밀도에 맞게 크기가 조정된 버스웨이를 정당화하는 경우가 많습니다. 개조는 기존 패널로 제한될 수 있습니다.
5단계: 배포 전 전력 및 냉각 조정
랙을 설치하기 전에 냉각 기술, 공기 흐름 경로, 액체 냉각 요구 사항, CDU 위치, 냉각수 온도 및 흐름, 바닥 하중, 서비스 접근 및 누출 감지를 검증하십시오. 이렇게 하면 전기 용량이 충분하지만 최대 부하에서 랙을 실행할 수 없는 전형적인 실패를 방지할 수 있습니다.
6단계: 단계적 확장을 위한 구축
전력 시스템을 로드맵으로 다루십시오. 1일차 용량,{1}}확장 용량, UPS 또는 배포판 업그레이드의 트리거 지점, 모니터링 임계값, 중복 요구 사항, 예산 단계를 정의하여 엔지니어링, 운영, 조달이 하나의 계획을 공유합니다.
AI 데이터센터 전력 계획 체크리스트
| 층 | 확인해야 할 사항 | 일반적인 실패 지점 |
|---|---|---|
| 유틸리티 및 배전반 | 확인된 상호 연결 용량 및 현실적인 통전 날짜 | 제한된 시장에서 수{0}}년의 리드 타임 |
| UPS | kW 헤드룸, 과도 응답, 중복성, 부분{0}}부하 효율성 | 밀리초 로드 단계가 아닌 정상 상태에 맞게 크기가 조정됨 |
| 분포 | 버스웨이/PDU 전류용량; 장애 조치 사례에 맞게 크기가 조정된 A/B 피드 | 전체 중복 로드 대신 N 크기의 각 피드 |
| 랙 PDU | 콘센트별 측정,{0}}올바른 플러그 및 차단기 정격, 위상 균형 | 캐비닛이 물리적으로 가득 차기 전 분기 과부하 |
| 냉각 | DLC/CDU 용량, 냉각수 온도 및 유량, 잔류 공기 부하, 누출 감지 | 열 거부 검증 없이 전원 승인됨 |
| 케이블링 | 파이버 트렁크 및 브레이크아웃 라우팅은 공기 흐름을 차단합니다. 서비스 액세스가 보존됨 | 케이블 정체로 인해 공기 흐름과 유지 관리가 차단됨 |
| 모니터링 | 시스템, 분기, 단계, 랙 및 콘센트 가시성 DCIM 통합 | 여행 전까지는 눈에 보이지 않는 좌초된 용량과 불균형 |
| 구조적 | 1,300kg 이상의 랙에 대한 바닥 하중; 문과 통로 여유 공간 | 랙이 물리적으로 들어가거나 지지될 수 없음 |
AI{0}}Ready 전력 솔루션에서 찾아야 할 사항
모듈형 UPS.배포가 단계적으로 증가하면 가치가 있습니다. 첫날에 사용하지 않은 kW에 대한 비용을 지불하지 않고도 용량을 추가하고 유지 관리를 단순화합니다.
고밀도-분포.Busway 또는 기타 유연한 시스템은-랙이 추가되거나 재배치되는 빠르게 변화하는 행과 이중 피드 및 안전한 유지 관리가 중요한 위치에서 효과를 발휘합니다.
지능형 랙 PDU.콘센트별 또는-랙별 가시성을 통해 팀은 불균형을 파악하고 과부하를 방지하며 용량을 정확하게 계획할 수 있습니다. 이는 AI 빌드에서 가장 자주 지정되지 않는-계층입니다.
전력 품질 모니터링.전압, 전류, 역률, 고조파, 위상 균형 및 부하 추세에 대한 가시성을 찾아 문제가 중단되기 전에 표면화되도록 하십시오.
DCIM 통합.전력 데이터를 열 데이터 및 랙 활용도와 연결하면 모니터링이 용량 계획으로 전환됩니다. 네트워킹이 동일한 빌드의 일부인 경우 엔지니어의MTP 대 MPO 선택 가이드랙의 파이버 측면을 전원 측면만큼 의도적으로 유지하는 데 도움이 됩니다.
피해야 할 일반적인 실수
- 전체 시설 용량만을 계획합니다.사이트에는 충분한 메가와트가 있어도 여전히 랙에서 장애가 발생할 수 있습니다. 랙-수준 및 분기{2}}수준 제한을 확인하세요.
- 냉각을 나중에 결정하는 것으로 간주합니다.전력 공급 후 계획된 냉각은 용량 정체의 주요 원인입니다.
- 동적 로드 동작을 무시합니다.평균 부하가 아닌 과도 응답 및 전력 품질을 고려하여 설계합니다.
- 모니터링 지정에서-.제한된 가시성은 문제 해결이 느리고 신뢰할 수 없는 용량 계획을 의미합니다.
- 견고한 아키텍처 구축.AI 하드웨어는 몇 달 안에 발전합니다. 고정된 설계는 시설의 수명이 다하기 전에 병목 현상이 발생합니다.
FAQ
Q: AI 랙에는 어느 정도의 전력이 필요합니까?
A: 플랫폼에 따라 다르지만 기준점은 구체적입니다. 범용{0}}CPU 랙은 최대 약 12kW, 공랭식 H100급 랙은 약 40kW, 완전히 구성된 NVIDIA GB200 NVL72는 약 120~132kW를 소비합니다. 2026년 로드맵은 랙당 240~600kW를 가리킵니다.
Q: 기존 데이터 센터가 AI 랙을 지원할 수 있습니까?
A: 일부는 가능하지만 많은 경우 업그레이드가 필요합니다. 제한 요소는 일반적으로 총 시설 전력이 아닌 랙 전력, UPS 용량, 배전, 냉각, 바닥 부하 또는 모니터링 -입니다. 배포하기 전에 전체 전력 및 냉각 평가가 필요합니다.
Q: AI 데이터 센터에는 항상 액체 냉각이 필요합니까?
답변: 항상 그런 것은 아닙니다. 낮은-밀도 AI 배포에서는 여전히 최적화된 공기 냉각을 사용할 수 있습니다. 랙당 약 30kW를 초과하는 공기 냉각은 더 이상 실행 가능하지 않으므로 GB200-급 시스템은 일반적으로 25~45도 범위의 CDU 및 시설수를 사용하여 직접-칩 액체 냉각을 사용합니다.
Q: AI 워크로드가 전력 안정성에 영향을 미치는 이유는 무엇입니까?
A: AI 훈련은 작업 시작, 체크포인트 또는 단계 변경 시 함께 증가 및 감소하는 대규모 GPU 그룹을 동기화합니다. 이러한 조정된 스윙은 UPS 시스템, PDU 및 업스트림 분배에 스트레스를 주는 빠른 전력 과도 현상을 생성합니다.
Q: AI 데이터센터에 가장 적합한 UPS는 무엇입니까?
A: 단일 답변은 없지만 AI 부하의 경우 결정 요인은 총 kW보다는 일시적인 응답, 확장성, 중복성 및 부분{0}}부하 효율성입니다. 모듈식 UPS는 배포가 증가함에 따라 용량을 추가할 수 있으므로 단계별 클러스터에 적합합니다.
Q: 좌초된 전력 용량을 어떻게 방지합니까?
A: 전원을 승인하기 전에 냉각을 검증하고, 각 랙의 분기-회로와 PDU 용량을 확인하고, 분기, 위상, 랙 및 콘센트 수준에서 모니터링합니다. 대부분의 정체된 용량은 열을 제거할 수 없는 냉각이나 세분화된 계량 없이는 보이지 않는 분기 한계에서 비롯됩니다.
Q: AI 데이터 센터에서 지능형 랙 PDU의 역할은 무엇입니까?
A: 지능형 랙 PDU는 랙-레벨 및 콘센트-레벨 가시성을 제공하여 팀이 로드를 추적하고, 위상 불균형을 파악하고, 과부하를 방지하고, 용량을 정확하게 계획할 수 있도록 해줍니다. 고밀도-환경에서는 이러한 세분성이 안전한 확장을 가능하게 합니다.
Q: AI{0}} 지원 전력 아키텍처란 무엇인가요?
답변: 이는 유틸리티 소스에서 고밀도 GPU 랙까지 안정적인 전력을 공급하는 확장 가능하고 모니터링되는 중복 시스템입니다.{0}} 일반적으로 적절한 UPS 용량과 과도 응답, 유연한 분배, 지능형 PDU, 전력 품질 모니터링, 처음부터 전력에 맞춰 조정되는 냉각을 결합합니다.
최종 테이크아웃
AI 데이터센터 전력 설계는 전력 용량을 추가하는 것이 아닙니다. 레거시 인프라가 구축된 것보다 10배 이상을 끌어올 수 있는 랙에 사용 가능한 전력 -을 안전하고 가시적이며 안정적으로 - 제공하는 것입니다. 그리드부터 랙까지 계획하고, 냉각과 전력을 조정하고, 분기 및 콘센트 수준에서 모니터링하고, 현재 GPU 세대가 아닌 차세대 GPU를 설계하세요. 배포하기 전에 랙 밀도, 배포 경로, UPS 과도 성능, 전력 품질, 모니터링 및 냉각을 함께 평가하십시오. 이러한 방식으로 구축된 전력 시스템은 정전을 방지하는 것 이상의 역할을 합니다. 이를 통해 첫 번째 병목 현상으로 인해 지연되는 대신 AI 인프라를 일정에 따라 확장할 수 있습니다.
