Blant NVIDIAs liste over kunngjøringer i kveld på Computex 2022, har selskapet avslørt at de forbereder lansering av væskekjølte versjoner av deres avanserte PCIe-akseleratorkort. De væskekjølte kortene tilbys som et alternativ til de tradisjonelle luftkjølte kortene med to spor, og kommer i en mer kompakt enkeltspors formfaktor for både forbedret kjøling og forbedret tetthet. Den væskekjølte A100 vil være tilgjengelig i Q3, og en væskekjølt H100 vil være tilgjengelig tidlig neste år.
Selv om væskekjøling er langt fra nytt i datasenteret, er det vanligvis reservert for mer skreddersydd maskinvare med ekstreme krav til kjøling og/eller tetthet, for eksempel den kommende generasjonen av high-end NVIDIA H100 (SMX)-servere. PCIe-servere handler derimot om standardisering og kompatibilitet. Hvilket for serverskjermkort/akseleratorer betyr dobbeltsporkort designet for bruk med tvungen luftkjøling i et serverchassis. Dette tjener markedssegmentet godt, men 300 til 350 Watt TDP-ene til disse kortene betyr at de ikke kan bli tynnere og fortsatt kjøles effektivt med luft – som igjen skaper en grense på 4 kort for standard rackmonterte systemer.
Men tidene endrer seg, og flytende kjøling implementeres i datasentre i større kapasitet både for å holde tritt med kjøling av stadig varmere maskinvare, og for å forbedre den generelle energieffektiviteten i datasenteret. For det formål vil NVIDIA gi ut væskekjølte versjoner av deres A100 og H100 PCIe-kort for å gi datasenterkunder en enkel og offisielt støttet vei til å installere væskekjølte PCIe-akseleratorer i deres anlegg.
Kortene (bildet over) er i hovedsak en referanse A100/H100 med den tradisjonelle dual-slot heatsink erstattet med en single-slot full dekning vannblokk. Designet for å bli integrert av serverleverandører, bruker de en åpen sløyfe-design som er ment å brukes som en del av et større oppsett for væskekjøling.
Men bortsett fra å endre kjølesystemet, forblir spesifikasjonene til kortene uendret. NVIDIA øker ikke TDP-ene eller klokkehastighetene på disse kortene, så ytelsen deres bør være identisk med tradisjonelle luftkjølte kort (så lenge de ikke er termisk strupende, selvfølgelig). Sagt på en annen måte, disse nye kortene bruker væskekjøling for å forbedre energieffektiviteten og tettheten, i stedet for ytelsen.
Det første kortet ut av porten vil være den væskekjølte versjonen av 80GB A100 PCIe-akseleratoren. Det vil være tilgjengelig for kunder i tredje kvartal i år. I mellomtiden er også en væskekjølt versjon av H100 PCIe under utvikling, og NVIDIA forventer at den vil være tilgjengelig tidlig i 2023.
I mellomtiden har NVIDIA jobbet med Equinix for å kvalifisere den væskekjølte A100 i datasentrene deres, samt for å få en ide om den virkelige strømbesparelsen til den nye maskinvaren. Interessant nok rapporterer NVIDIA en betydelig reduksjon i det totale strømforbruket til datasenteret fra å bytte til væskekjøling – et 2000-serveroppsett (4000 A100-kort) så det totale strømbehovet falt med 28 %. I følge NVIDIA er dette fra en kombinasjon av generelle strømbesparelser på tvers av datasenteret fra svitsjen, inkludert alt fra forbedret skjermkortenergieffektivitet fra lavere temperaturer, til redusert energibehov fra kjølevann kontra drift av store luftkjølere. Alt dette understreker hvorfor NVIDIA fremmer væskekjølt maskinvare som en krafteffektiviseringsgevinst for datasenteroperatører som ønsker å redusere strømforbruket.
Og selv om denne første generasjonen av væskekjølt maskinvare er fokusert på effektivitet, vil det ifølge NVIDIA ikke alltid være tilfelle. For fremtidige generasjoner av kort vil selskapet også se på væskekjøling for å forbedre ytelsen ved nåværende energinivåer – antagelig ved å investere gevinstene i datasenterskala tilbake i høyere TDP-er for kortene.
Til slutt, mens hoveddelen av NVIDIAs kunngjøring i dag (så vel som casestudien) er fokusert på PCIe-kort, avslører NVIDIA også at de har jobbet med offisielle, væskekjølte design for deres HGX-systemer også, som brukes til å huse selskapets kraftigere SMX-kort. En væskekjølt HGX A100 sendes allerede, og en væskekjølt HGX H100 skal lanseres i Q4.