Vultr®en ledende uavhengig leverandør av skyinfrastruktur, kunngjorde det Vultr Talon, drevet av NVIDIA GPUer og NVIDIA AI Enterprise-programvare, er nå tilgjengelig i beta. Vultr Talon er en banebrytende skybasert plattform, og tilbyr rimelig akselerert databehandling ved å aktivere GPU-deling, slik at flere arbeidsbelastninger effektivt kan kjøre på en enkelt NVIDIA GPU.
Vultr er den første skyleverandøren som tilbyr virtualisering av NVIDIA A100 Tensor Core GPUer for å aktivere GPU-deling. Med lanseringen i dag introduserer Vultr et sett med virtuelle maskinplaner (VM) med NVIDIA A100, som starter på bare $90 per måned, eller $0,13 per time.
Sky Plattform Gjennombrudd som muliggjør AI-arbeidsbelastninger til en brøkdel av kostnaden
I kjernen av Vultr Talon er en toppmoderne NVIDIA GPU-virtualiseringsplattform bygget på NVIDIAs vGPU-programvare. I stedet for å koble hele fysiske GPU-er til VM-er, legger Vultr i stedet til bare en brøkdel i form av en virtuell GPU (vGPU). Disse vGPU-ene drives av NVIDIA AI Enterprise programvarepakke, som inkluderer NVIDIA vGPU-programvare og er optimalisert for ekstern kjøring av AI-arbeidsbelastninger og høyytelsesdataanalyse.
For en kundes maskin ser en vGPU ut akkurat som en fysisk GPU. Hver vGPU har sitt eget dedikerte minne som er en del av det underliggende kortets minne. vGPUen har tilgang til en tilsvarende del av den fysiske GPUens beregningskraft. For Vultr-planer med minst 10 GB GPU RAM, NVIDIAs Multi-Instance GPU (MIG) teknologi brukes til å gi garantert QoS, fullt isolert GPU-minnebuffer med høy båndbredde og dedikerte datakjerner til leietakere.
High-end GPUer koster vanligvis tusenvis av dollar per måned. Selv om denne utgiften ofte er forsvarlig for de største bedriftsarbeidsbelastningene, for mange bedrifter og utviklere, kan kostnaden for selv en enkelt GPU være uoverkommelig for å komme i gang, eksperimentere eller kjøre applikasjoner i utviklings- og testmiljøer. Selv bedrifter med betydelige IT-budsjetter kan ende opp med å kaste bort betydelige mengder penger, skaffe mer GPU-kapasitet enn nødvendig, eller rett og slett bestemme seg for å unngå å bruke GPUer i det hele tatt.
«Hos Vultr er vi stolte av å gjøre skyinfrastruktur med høy ytelse rimelig for alle. Med Vultr Talon har vi snudd opp ned på GPU-leveringsmodellen. På grunn av vår banebrytende skyplattform kan AI-utviklere og dataforskere sørge for nøyaktig så mye NVIDIA GPU-behandling som de faktisk trenger, til priser de har råd til, sier JJ Kardwell, administrerende direktør i Vultrs morselskap, Constant.
Brøkdeler av en NVIDIA A100, starter på bare $90 per måned, eller $0,13 per time
NVIDIA A100 Tensor Core GPU leverer enestående akselerasjon for dyp læring, høyytelses databehandling (HPC) og dataanalyse. Kombinert med NVIDIA AI Enterprise-programvarepakken, optimert for å utnytte fordelene med den underliggende arkitekturen, akselererer NVIDIA A100 alle større rammeverk for dyp læring og dataanalyse som TensorFlow og over 700 HPC-applikasjoner via NVIDIA NGC-katalog.
Vultr jobbet tett med NVIDIA for å lage Vultr Talon-tilbudet, og startet med NVIDIA A100 Tensor Core GPU.
“Det er ingen størrelse som passer alle når det kommer til kundearbeidsmengder, og å klargjøre riktig størrelsesakselerasjon for arbeidsmengden din og maksimere utnyttelse er avgjørende for skykostnadsoptimalisering,” sa Matthew McGrigg, direktør for global forretningsutvikling for skypartnere hos NVIDIA. “Vultrs svært tilgjengelige plattform gjør det enkelt å klargjøre NVIDIA GPU-ressurser med stor granularitet.”
Fra bare $90 per måned, eller $0,13 per time, er de første Vultr Talon-planene med den virtualiserte NVIDIA A100 og NVIDIA AI Enterprise-programvaren perfekt egnet for maskinlæringsinferens og modellbyggingsarbeidsbelastninger, så vel som for applikasjoner som naturlig språkbehandling, stemmegjenkjenning og datasyn.
Bare Metal GPU for store arbeidsbelastninger
For kunder som ønsker å kjøre store arbeidsmengder som krever flere fysiske GPUer, tilbyr Vultr også Bare Metal-servere med fire NVIDIA A100 GPUer og to 24-kjerners Intel Xeon CPUer.
Ambisiøs utvidelse fremover
Beta-lanseringen er bare begynnelsen for Vultr Talon med NVIDIA GPUer, med innledende kapasitet til NVIDIA A100 i New Jersey. Vultr vil legge til global inventar for NVIDIA A100, A40 og A16 GPUer i ukene fremover, for bedre å støtte flere regioner og et bredere utvalg av brukstilfeller.
Vultr-partnere som sky-orkestreringsplattformen Cycle.io er begeistret for Vultr Talon- og Bare Metal GPU-produkter.
“Gjennom vårt partnerskap med Vultr er vi begeistret for ikke bare å kunne tilby en rekke GPU-ressurser til organisasjoner, men gjøre det på en rimelig og fleksibel måte – nok til å møte enhver brukssituasjon. Evnen til å mikse og matche vGPUer og bart metall endrer spillet for brukerne våre, sier Jake Warner, administrerende direktør i Cycle.io.
Bedrifter, utviklere og datavitere som er interessert i å prøve Vultr Talon kan levere instanser gjennom Vultrs kontrollpanel.
Registrer deg for gratis insideBIGDATA nyhetsbrev.
Bli med oss på Twitter: @InsideBigData1 – https://twitter.com/InsideBigData1