Mastra: applicazioni AI con TypeScript

Mastra è un framework TypeScript progettato per supportare lo sviluppo rapido di applicazioni e funzionalità basate sull'intelligenza artificiale. Offre una serie di componenti fondamentali, tra cui workflow, agenti, RAG (Retrieval-Augmented Generation), integrazioni, sincronizzazioni ed evals, che possono essere eseguiti sia in locale che su Cloud in modalità serverless.

Mastra supporta diversi provider di modelli di linguaggio di grandi dimensioni come OpenAI, Anthropic e Google Gemini. Gli sviluppatori possono selezionare un modello e un fornitore specifico, configurare prompt (di sistema o dell'utente) e decidere se trasmettere la risposta ricevuta in streaming.

Funzionalità di Mastra

Gli agenti in Mastra sono sistemi in cui il modello di linguaggio sottostante determina una sequenza di azioni. Essi possono richiamare funzioni personalizzate o API per le integrazioni con servizi di terze parti e accedere ai dati messi a disposizione dall'utilizzatore.

È molto interessante anche il supporto per le funzioni tipizzate eseguibili da agenti, o workflow, con accesso integrato alle integrazioni e validazione dei parametri. Ogni strumento ha uno schema che definisce i suoi input e una funzione che ne implementa la logica.

Per quanto riguarda i workflow si hanno a disposizione stati durevoli basati su grafi con supporto per loop, ramificazioni, attesa di input, inclusione di altri workflow e gestione degli errori. Possono essere costruiti tramite codice o con un editor visuale e per ogni passaggio si ha il tracciamento integrato tramite OpenTelemetry.

RAG, Syncs ed Evals

L'uso della RAG consente di costruire una base di conoscenza per gli agenti, utilizzando pipeline ETL (Extract/Transform/Load) con tecniche di interrogazione specifiche tra cui chunking, embedding e ricerca vettoriale.

Le sincronizzazioni sono invece funzioni asincrone che possono essere distribuite come task in background in diversi ambienti di esecuzione. Le integrazioni sono rappresentate da client API auto-generati e tipizzati per servizi di terze parti utilizzabili come strumenti per agenti o passaggi nei workflow.

Meritano una segnalazione anche gli Evals che in Mastra sono test automatizzati in grado di valutare gli output degli LLM utilizzando metodi basati su modelli, regole e statistiche. Ciascun Eval restituisce un punteggio normalizzato tra 0 e 1 che può essere registrato e confrontato. Gli Evals possono essere infine personalizzati con prompt e funzioni di scoring.