Nvidia lanserer AI-monster
I helgen startet den store teknologimessen i Taipei, Computex, og der har Nvidia lansert et monster av en AI-maskin, som de kaller DGX GH200.
Dette er en sammenkobling av 256 av den nye AI-optimaliserte komponenten GH200, for å tilby Google, Meta og Microsoft det aller råeste som er mulig på AI-fronten.
Med dette oppsettet får brukeren tilgang på 1-Exaflop og 144TB GPU. Dette monsteren av en dataserver-løsning vil muliggjøre den neste fasen av generativ AI.
“Generative AI, large language models and recommender systems are the digital engines of the modern economy,” sa Jensen Huang, grunnlegger og CEO av Nvidia. “DGX GH200 AI supercomputers integrate NVIDIA’s most advanced accelerated computing and networking technologies to expand the frontier of AI.”
Det nye systemet forenkler hele arkitekturen til disse datasenterproduktene, ved å koble sammen Nvidias Grace GPUer med deres H100-GPUer. I praksis fører dette til økt ytelse, da kommunikasjonen mellom CPU og GPU går 7 ganger raskere enn over PCI.
Under kan du se hele keynoten til Nvidia:
