Dapr: runtime dei microservizi ora supporta gli agenti AI

Il team di Dapr ha appena lanciato Dapr Agents, la sua proposta per aiutare gli sviluppatori a creare agenti di intelligenza artificiale fornendo loro molti degli elementi costitutivi necessari per farlo. Nel 2019, Microsoft ha reso open source Dapr, un nuovo runtime per semplificare la creazione di applicazioni distribuite basate su microservizi. All'epoca, nessuno parlava ancora di agenti AI. Tuttavia, a quanto pare, il sistema runtime aveva alcuni dei componenti fondamentali per supportare gli agenti AI integrati fin dall'inizio. Ciò perché una delle funzionalità principali di Dapr è un concetto di attori virtuali, che possono ricevere ed elaborare messaggi, indipendentemente da tutti gli altri attori nel sistema.

Dapr: agenti possono comunicare con i modelli più diffusi senza configurazioni

Gli agenti AI Dapr hanno avuto origine da Floki, un popolare progetto open source che ha esteso il sistema per questo caso d'uso dell'agente AI. Parlando con i responsabili del progetto, tra cui il ricercatore Microsoft AI Roberto Rodriguez, i due team hanno deciso di portare il progetto sotto l'ombrello Dapr per garantire la continuità del nuovo framework dell'agente. Per coordinare efficacemente quegli agenti, è necessario un motore di orchestrazione e la gestione dello stato. Secondo il team, ciò è proprio quello che Dapr offre. Questo è in parte dovuto al fatto che gli attori di Dapr sono progettati per essere estremamente efficienti e in grado di avviarsi in millisecondi quando arriva un messaggio.

Al momento, gli agenti possono comunicare con la maggior parte dei provider di modelli più diffusi, senza bisogno di configurazioni. Tra questi rientrano AWS Bedrock, OpenAI, Anthropic, Mistral e Hugging Face. Il supporto per gli LLM locali arriverà molto presto. Oltre a interagire con questi modelli, poiché i Dapr Agents estendono il framework Dapr esistente, gli sviluppatori hanno anche la possibilità di definire un elenco di strumenti che l'agente può quindi utilizzare per svolgere un determinato compito. Attualmente, i Dapr Agents supportano Python, con il supporto .NET in arrivo a breve. Java, JavaScript e Go seguiranno presto.