Temperatury w serwerowni — wewnętrzna symulacja CFD

Data center — DC10 — wewnętrzne.

Analizy doboru i zagospodarowania data center: kilka scenariuszy kryzysowych zbadanych, aby potwierdzić odporność układów klimatyzacji.

Projekt
Data center — DC10 — wewnętrzne
Rok
2022
Klient
Equinix
Lokalizacja
Saint-Denis (Francja)
Typologia
Data center · wewnętrzne
Omów projekt

Analiza zjawisk przepływowych data center

EOLIOS Ingénierie wykonało analizy doboru i zagospodarowania data center. Zbadano kilka scenariuszy kryzysowych, aby sprawdzić odporność układów klimatyzacji.

Najważniejsze. Analizy doboru i zagospodarowania data hall DC10 (klient Equinix, Saint-Denis) metodą symulacji CFD. Pierwsze analizy nie spełniały norm ASHRAE obowiązujących na obiekcie i wskazano ryzyko punktu przegrzewania: część kratek podłogowych blisko ścian pracowała w nadmiernym strumieniu, co powodowało niedowymiarowanie kratek rozstrzygających przy serwerze dużej mocy. Po optymalizacji rozmieszczenia kratek i sprawdzeniu braku punktu przegrzewania zbadano kilka scenariuszy, aż do przebiegu temperatury przy zaniku zasilania z sieci i przy rozruchu układów rezerwowych.

> 10 kW/szafę
gęstość urządzeń
ASHRAE
referencja obiektu
Scenariusze
praca, awaria, zanik zasilania

Analiza data center

W środowisku centrów danych bardzo dużej skali potrzebne są standardy układów chłodzenia zdolne odpowiedzieć na zmienne potrzeby IT, z powodu rosnącej gęstości urządzeń (ponad 10 kW na szafę). Odprowadzenie ciepła z urządzeń o dużej gęstości jest punktem kluczowym.

Wymaga to numerycznej symulacji zachowania termiczno-przepływowego różnych zjawisk zachodzących w hali, w powiązaniu z procesami IT i układami klimatyzacji.

Budowa cyfrowego bliźniaka data hall

W sercu zlecenia znajduje się budowa cyfrowego bliźniaka data hall: wiernej wirtualnej repliki serwerowni, jej szaf i wszystkich układów uzdatniania powietrza. Model budujemy na podstawie planów obiektu, makiet 3D oraz kart technicznych urządzeń, z których pobieramy strumienie powietrza nawiewanego, moce rozpraszane na szafę oraz nastawy temperatury.

Zasilony tymi danymi cyfrowy bliźniak odtwarza zachowanie termiczno-przepływowe serwerowni i służy jako wirtualne stanowisko badawcze: badamy na nim konfiguracje zagospodarowania, scenariusze eksploatacji i sytuacje kryzysowe nigdy nie zakłócając pracy produkcyjnej.

Definicja · cyfrowy bliźniak

Wirtualne i dynamiczne odwzorowanie rzeczywistego obiektu, zasilane jego danymi projektowymi i eksploatacyjnymi. W centrum danych pozwala odtworzyć obliczeniami zachowanie powietrza i temperatur, wyprzedzić punkty przegrzewania i sprawdzić scenariusze awarii, zanim wystąpią.

Definicja · korytarze ciepłe i zimne

Zasada zagospodarowania serwerowni polegająca na naprzemiennym układzie korytarzy zasysania zimnego powietrza i korytarzy wyrzutu ciepłego powietrza. Zapobiega mieszaniu strumieni, ogranicza recyrkulację i wprost decyduje o skuteczności chłodzenia.

Wewnętrzna symulacja CFD data center — cyfrowy bliźniak

Postępowanie w wewnętrznej symulacji CFD

Obliczeniowa mechanika płynów (CFD) dzieli objętość powietrza serwerowni na siatkę komórek obliczeniowych, a następnie rozwiązuje w każdym punkcie równania przepływu i przenoszenia ciepła. Odwzorowuje w ten sposób prędkość powietrza, temperaturę oraz ciśnienie w każdym punkcie data hall, od kratek podłogowych do wlotów szaf.

  • 01

    Inwentaryzacja i modelowanie: geometria serwerowni, zagospodarowanie szaf, układy nawiewu i powrotu.

  • 02

    Siatka: podział objętości powietrza, zagęszczony przy kratkach i wlotach szaf.

  • 03

    Warunki brzegowe: strumienie nawiewane, moce rozpraszane na szafę, nastawy układów klimatyzacji.

  • 04

    Wykorzystanie wyników: mapy temperatury i prędkości, sprawdzenie zgodności z zakresami ASHRAE i wskazanie punktów przegrzewania.

Definicja · normy ASHRAE

Zalecenia ASHRAE określające dopuszczalne zakresy temperatury i wilgotności na wejściu urządzeń informatycznych. Służą jako referencja przy ocenie, czy konfiguracja chłodzenia jest dopuszczalna.

Optymalizacja rozmieszczenia kratek

Wyniki pierwszych analiz nie spełniały norm ASHRAE obowiązujących na obiekcie i wskazano ryzyko punktu przegrzewania. Część kratek podłogowych blisko ścian mogła pracować w nadmiernym strumieniu, co prowadziło do niedowymiarowania kratek rozstrzygających, umieszczonych przy serwerze dużej mocy.

Po optymalizacji rozmieszczenia kratek i sprawdzeniu braku punkty przegrzewania zbadano kilka scenariuszy.

Do zapamiętania — prawidłowe rozmieszczenie kratek nawiewnych jest rozstrzygające: miejscowy nadmierny strumień może niedostatecznie zasilić szafę krytyczną i utworzyć punkt przegrzewania.

Wewnętrzna symulacja CFD: obraz punktów przegrzewania
Wewnętrzna symulacja CFD: obraz punktów przegrzewania

Rola kratek podłogi podniesionej w równowadze przepływowej

W serwerowni z podłogą podniesioną przestrzeń pod płytami działa jako przestrzeń nawiewna: zimne powietrze jest w niej sprężane przez klimatyzatory precyzyjne, a następnie podawane do korytarzy zimnych przez kratki perforowane albo płyty o regulowanym strumieniu. Wydajność chłodzenia zależy mniej od zainstalowanej mocy chłodniczej niż od rozdziału tego powietrza tam, gdzie serwery go potrzebują.

Tym rozdziałem rządzą dwie wielkości: ciśnienie statyczne w przestrzeni podpodłogowej oraz stopień perforacji (albo otwarcia) płyt. Kratka umieszczona zbyt blisko klimatyzatora znajduje się w strefie, gdzie powietrze płynie szybko, a ciśnienie statyczne jest niskie, co może zmniejszyć jej strumień, a nawet wywołać zasysanie odwrotne, które sprowadza ciepłe powietrze do przestrzeni podpodłogowej. Odwrotnie, kratka na końcu przestrzeni podpodłogowej, gdzie ciśnienie jest odbudowane, może pracować w nadmiernym strumieniu na szkodę sąsiednich.

Definicja · przestrzeń podpodłogowa

Objętość pod płytami podłogi podniesionej, sprężana przez klimatyzatory i służąca do rozdziału zimnego powietrza do korytarzy. Jej wysokość, zajętość (okablowanie, rurociągi) i rozmieszczenie kratek wyznaczają ciśnienie dostępne w każdym punkcie.

Definicja · stopień perforacji

Udział powierzchni otwartej płyty podłogi podniesionej (kratka perforowana albo z przepustnicą). Wyznacza strumień powietrza dla danego ciśnienia w przestrzeni podpodłogowej: zbyt duży przy klimatyzatorach zaburza rozdział; dobrze rozłożony dopasowuje strumień do obciążenia cieplnego szaf.

Przyjęte zasady rozmieszczenia

Stawką jest dopasowanie strumienia zimnego powietrza do obciążenia cieplnego każdej szafy, przy zachowaniu jednorodnego ciśnienia w przestrzeni podpodłogowej. Symulacja CFD pozwala zobiektywizować te decyzje, szafa po szafie:

  • 01

    Umieszczać kratki wyłącznie w korytarzach zimnych, przed wlotami powietrza serwerów, nigdy w korytarzach ciepłych, gdzie marnowałyby zimne powietrze.

  • 02

    Unikać bezpośredniego sąsiedztwa klimatyzatorów, gdzie niskie ciśnienie statyczne pogarsza, a nawet odwraca strumień pierwszych kratek.

  • 03

    Dobierać stopień perforacji i stosować płyty z przepustnicą regulowaną, aby wzmocnić strumień przed szafami dużej mocy.

  • 04

    Oczyścić przestrzeń podpodłogową z przeszkód (trasy kablowe, rurociągi), które tworzą straty ciśnienia i strefy podciśnienia.

  • 05

    Ograniczyć nadciśnienie na końcu rzędu, aby uniknąć nadmiernego strumienia kratek odległych na szkodę kratek rozstrzygających.

Do zapamiętania. Kratka podłogi podniesionej daje użyteczny chłód tylko wtedy, gdy ciśnienie w przestrzeni podpodłogowej i jej stopień perforacji są spójne z obciążeniem szafy, którą obsługuje. Prawidłowe rozmieszczenie, potwierdzone w CFD, ma pierwszeństwo przed dodawaniem mocy chłodniczej.

Scenariusze kryzysowe i odporność

Zasymulowano kilka scenariuszy: scenariusze pracy normalnej oraz scenariusze awarii albo prac serwisowych. Na koniec przeanalizowaliśmy przebieg temperatury serwerowni w czasie przy zaniku zasilania z sieci i przy ponownym uruchomieniu poszczególnych układów rezerwowych.

Analiza nieustalona: symulacja data center w czasie

Tam gdzie symulacja w stanie ustalonym opisuje serwerownię ustabilizowaną w danej chwili, analiza nieustalona obliczą przebieg temperatury sekunda po sekundzie w czasie zdarzenia. To jedyny sposób odpowiedzi na prawdziwe pytanie o odporność: przy utracie chłodzenia ile mamy czasu, zanim serwery przekroczą swoje progi krytyczne?

Scenariuszem wymiarującym jest zaniku zasilania z sieci. W chwili przełączenia klimatyzatory precyzyjne zatrzymują się na czas, w którym agregaty prądotwórcze uruchamiają się i przejmują obciążenie, a serwery dalej rozpraszają pełną moc. Temperatura powietrza w serwerowni rośnie wtedy bardzo szybko, tym bardziej że bezwładności termicznej dostępna w przestrzeni podpodłogowej i w objętości powietrza jest niewielka wobec występujących gęstości.

Definicja · analiza nieustalona

Symulacja nieustalona, która rozwiązuje przebieg pól temperatury i prędkości w czasie, na podstawie stanu początkowego i chronologii zdarzeń. Wylicza szybkość narastania temperatury i czasy do przekroczenia progów, tam gdzie analiza w stanie ustalonym daje tylko obraz zamrożony.

Definicja · bezwładność cieplna

Zdolność obecnych mas (powietrze, konstrukcje, urządzenia) do wygładzenia zmiany temperatury. Niewielka w gęstym data hall, zostawia mały zapas: kilkadziesiąt sekund wystarcza czasem do osiągnięcia progów przy zatrzymaniu chłodzenia.

Co ujawnia chronologia powrotu

Analiza odtwarza całą chronologię powrotu: zatrzymanie chłodu, opóźnienie rozruchu agregatów, ponowny rozruch wentylatorów, a następnie stopniowe przywracanie nastaw. Śledząc przebieg szafa po szafie, symulacja pokazuje strefy, które pierwsze dochodzą do swoich granic i sprawdza, że żadna nie przekracza progów przed powrotem chłodzenia.

  • 01

    Szybkość narastania temperatury w każdej strefie, od chwili zaniku zasilania.

  • 02

    Czas do progu krytycznego porównany z czasem przełączenia układów rezerwowych.

  • 03

    Przebieg powrotu do nastawy po rozruchu agregatów i wentylatorów.

  • 04

    Strefy najbardziej narażone, do potraktowania w pierwszej kolejności przez zagospodarowanie albo redundancję.

Do zapamiętania. Odporności data hall nie ocenia się w stanie równowagi, ale w przejściu: analiza nieustalona zestawia czas do progu krytycznego z czasem powrotu układów rezerwowych i dowodzi zachowania serwerowni przed rzeczywistym zdarzeniem.

Korzyści z cyfrowego bliźniaka

Odtwarzając obliczeniami każdą konfigurację, cyfrowy bliźniak pozwala uniezawodnić dobór i zagospodarowanie serwerowni przed jakimikolwiek pracami fizycznymi. Korekty, takie jak przestawienie kratek, są potwierdzane wirtualnie, co zmniejsza ryzyko błędu w eksploatacji.

  • 01

    Wyprzedzanie punktów przegrzewania i sprawdzenie zgodności z zakresami ASHRAE.

  • 02

    Badanie scenariuszy kryzysowych (awaria, prace serwisowe, zanik zasilania) bez ryzyka dla pracy produkcyjnej.

  • 03

    Optymalizacja zagospodarowania szaf i nawiewu dla lepszej skuteczności chłodzenia.

  • 04

    Trwałe wsparcie decyzji: model można wykorzystać ponownie przy każdej zmianie serwerowni.

Do zapamiętania. Cyfrowy bliźniak zamienia chłodzenie data hall w zagadnienie mierzalne: każdy scenariusz można zbadać wirtualnie przed wdrożeniem, co zabezpiecza dostępność serwerowni.

Doświadczenie: wewnętrzna symulacja CFD serwerowni
FAQ

Data hall DC10 — Twoje pytania

Normy ASHRAE, rozmieszczenie kratek i scenariusze kryzysowe: odpowiedzi na pytania operatorów i projektantów przed wewnętrzną analizą CFD.

Jaki był cel analizy?

Wykonanie analiz doboru i zagospodarowania data hall oraz sprawdzenie odporności układów klimatyzacji kilkoma scenariuszami kryzysowymi, przez symulację zachowania termiczno-przepływowego zjawisk w hali, jak w naszej analizie wewnętrznej data center DC28.

Dlaczego pierwsze analizy nie były zgodne?

Wynik pierwszych analiz nie spełniał norm ASHRAE obowiązujących na obiekcie i wskazano ryzyko punktu przegrzewania: część kratek podłogowych blisko ścian pracowała w nadmiernym strumieniu, co powodowało niedowymiarowanie kratek rozstrzygających w pobliżu serwera dużej mocy.

Jak problem został usunięty?

Przez optymalizację rozmieszczenia kratek, a następnie sprawdzenie braku punktu przegrzewania przed zbadaniem poszczególnych scenariuszy.

Jakie scenariusze zasymulowano?

Scenariusze pracy normalnej i scenariusze typu awaria albo prace serwisowe, a także przebieg temperatury pomieszczenia w czasie przy zaniku zasilania z sieci i przy rozruchu poszczególnych układów rezerwowych.

Dlaczego gęstość urządzeń jest wyzwaniem?

Przy gęstościach mogących przekraczać 10 kW na szafę odprowadzenie ciepła z urządzeń informatycznych o dużej gęstości jest punktem kluczowym dla tych centrów danych, co wymaga symulacji zachowania termiczno-przepływowego hali.

Podsumowanie

Filmowe podsumowanie analizy

Model CFD 3D data hall: dobór, optymalizacja kratek i scenariusze kryzysowe (zanik zasilania, ponowne uruchomienie układów rezerwowych).

Filmowe podsumowanie zlecenia · EOLIOS Ingénierie
Zobacz inne projekty

Nasze pozostałe projekty data center.

Wszystkie projekty
Poznaj dziedzinę

Centra danych: zwiedzaj dalej.

Specjalizacje CFD, zrealizowane projekty i opracowania techniczne: cała dziedzina centrów danych w jednym miejscu.

CFDInżynierowie eksperci
20+Kraje działalności
B+RBadania i innowacje