NVIDIA e i progressi in IA

NVIDIA porta a casa importanti passi avanti in IA: Jensen Huang, fondatore e CEO di NVIDIA, presenta l’ultima impresa della società in ambito intelligenza artificiale.

La società californiana presenta NVIDIA DGX Cloud, un servizio di supercalcolo con intelligenza artificiale che darà alle imprese facile accesso a infrastruttura e software per formare modelli avanzati di IA  generativa e altre applicazioni.

NVIDIA DGX Cloud comprende NVIDIA AI Enterprise, il layer software della piattaforma NVIDIA AI, con framework di intelligenza artificiale end-to-end e modelli pre-formati. Ogni istanza di NVIDIA DGX Cloud dispone di otto GPU NVIDIA H100 o A100 da 80 GB Tensor Core, il che porta la memoria GPU per core a un totale di 640 GB.

NVIDIA è poi in accordi con alcuni fornitori di servizi in cloud per alloggiare l’infrastruttura di DGX Cloud, iniziando proprio da Oracle Cloud Infrastructure. OCI Supercluster fornisce la rete RDMA, calcolo bare-metal e archiviazione.

Microsoft Azure offrirà i propri servizi di alloggiamento per NVIDIA DGX Cloud a partire dal prossimo trimestre. Inoltre, si attende anche il contributo di Google Cloud.

Gli utenti gestiranno i carichi di lavoro DGX Cloud tramite NVIDIA Base Command Platform. La proposta della società implica che ogni impresa potrà accedere al proprio supercomputer con IA con l’aiuto di un semplice motore di ricerca.

“DGX Cloud offre ai clienti accesso immediato al supercalcolo di NVIDIA AI in cloud su scala globale”, spiega Jensen Huang, che osserva che “le startup sono in competizione per creare prodotti e modelli di business innovativi”, situazione a cui gli operatori tradizionali “cercano di dare una risposta”.

Una caratteristica di DGX Cloud è che fornisce il supporto del gruppo di esperti di NVIDIA anche durante la fase di sviluppo della tecnologia con intelligenza artificiale.

I cluster di DGX Cloud si possono noleggiare mensilmente, il che garantisce la possibilità di scalare rapidamente lo sviluppo. Il prezzo parte da 36.999 dollari per istanza al mese.

ServiceNow è una delle società che ha già iniziato a utilizzare la soluzione. In questo caso, lo scopo è promuovere le ricerche su modelli di linguaggio, generazione di codice e analisi causale.