Red Hat, Inc. ha annunciato la disponibilità generale di Red Hat Enterprise Linux AI, o RHEL AI, in ambiente hybrid cloud. Si tratta della piattaforma di Red Hat che consente di sviluppare, testare ed eseguire modelli di intelligenza artificiale generativa per alimentare più facilmente le applicazioni in azienda.
Come funziona RHEL AI
RHEL AI combina la famiglia di modelli linguistici Granite, che sono rilasciati sotto licenza open source, con i tool di allineamento dei modelli InstructLab basati sulla metodologia LAB (Large-scale Alignment for chatBots). Il risultato è un'immagine RHEL ottimizzata e bootable da implementare nel cloud ibrido, sui server.
La piattaforma nasce dalla considerazione che i costi di approvvigionamento, addestramento e messa a punto dei modelli possono essere molto elevati. Essi infatti arrivano a sfiorare i 200 milioni di dollari per alcuni LLM già prima del lancio. Debbono essere poi calcolati i costi per l'allineamento ai requisiti o ai dati di un'organizzazione che necessita di data scientist o sviluppatori estremamente competenti.
Red Hat ritiene quindi che nel prossimo decennio, modelli di AI più piccoli, efficienti e creati per scopi specifici rappresenteranno una parte sostanziale dello stack IT, insieme alle App Cloud-native. Per raggiungere questo obiettivo le AI dovranno essere però più accessibili. Sia per quanto riguarda i costi che relativamente agli ambienti hybrid cloud in cui animare i modelli.
Red Hat, RHEL AI e open source
Red Hat propone l'open source come soluzione alle nuove sfide lanciare dall'evoluzione dei modelli generativi. Da questo punto di vista RHEL AI è stato sviluppato per:
- potenziare l'innovazione delle AI con modelli Granite sotto licenza open source.
- Semplificare l'allineamento dei modelli ai requisiti delle aziende. Con InstructLab, infatti, esperti di dominio e sviluppatori possono contribuire alla creazione di modelli senza una conoscenza approfondita della data science.
- Addestrare e implementare modelli nel cloud ibrido fornendo gli strumenti per mettere a punto modelli per server di produzione ovunque si trovino i dati. RHEL AI si integra poi con Red Hat OpenShift AI offrendo una soluzione scalabile per il training, il tuning e la gestione dei modelli stessi
Gli sviluppatori possono inoltre utilizzare le risorse di calcolo degli hyperscaler (AWS, Google Cloud, IBM Cloud e Microsoft Azure) per creare soluzioni di intelligenza artificiale innovative con RHEL AI.