Microsoft rilascia Azure AI Inference SDK per .NET

Microsoft ha reso disponibile l'Azure AI Inference SDK per .NET. Grazie ad esso sarà possibile accedere più facilmente ai modelli linguistici generativi forniti attraverso il catalogo di Azure AI Studio. In questo modo gli sviluppatori potranno integrare le proprie applicazioni con funzionalità di Intelligenza Artificiale come per esempio un chatbot come ChatGPT per l'interazione diretta tra uomo e macchina.

Non solo modelli Microsoft

Questa novità è particolarmente interessante perché il catalogo di LLM (Large Language Models) presentato dall'infrastruttura Cloud di Redmond è particolarmente ampio. All'interno di esso troviamo per esempio i modelli di Meta, Mistral e Azure OpenAI Service. Non mancano inoltre soluzioni avanzate targate NVIDIA e Cohere. Così come si può attingere all'offerta di Hugging Face.

Attualmente il catalogo è suddiviso in tre raccolte differenti: "Azure OpenAI Models", "Curated by Azure AI" e "Open Models from Hugging Face Hub". Cambiano quindi i provider di riferimento.

Appartengono al primo gruppo tutti i modelli che sono accessibili unicamente tramite Azure OpenAI Service. La seconda collezione include invece dei modelli proprietari che non vengono sviluppati da Microsoft ma sono comunque ottimizzati per operare su Azure. "Open Models from Hugging Face Hub" presenta infine centinaia di modelli per l'inferenza in tempo reale il cui mantenimento viene curato da Hugging Face.

Nei primi due casi il supporto viene erogato da Microsoft tenendo conto dei termini relativi allo SLA (Service-Level Agreement). Per quanto riguarda invece i modelli di Hugging Face è possibile trovare supporto sui forum ufficiali dei relativi progetti e tramite i canali di assistenza.

Installazione e implementazione

Gli sviluppatori avranno a disposizione un ambiente di sviluppo ottimizzato per le applicazioni .NET. L'SDK può essere installato tramite il package manager NuGet. Fatto questo non rimarrà altro che implementare il codice per l'incorporamento del modello desiderato per il proprio progetto. L'intera procedura è disponibile sul sito ufficiale di Microsoft.