Vanna.ai: i prompt diventano query ai database

Vanna.ai, o semplicemente Vanna, è un framework Open Source basato su Python e la tecnica chiamata RAG (Retrieval-Augmented Generation). Il suo compito è quello di tradurre richieste (o se preferite "prompt") in query per formulare interrogazioni ai database più diffusi, da Postgres a SQLite, da BigQuery a Snowflake. In linea generale viene supportato qualsiasi Database Manager che permetta di utilizzare il linguaggio SQL.

Cosa è la Retrieval-Augmented Generation

La Retrieval-Augmented Generation, che possiamo tradurre come "Generazione potenziata da recupero" è una tecnica di sviluppo delle tecnologie basate sulle AI che unisce elementi di recupero dati e generazione dei testi. In questo modo si cerca di integrare la capacità di recuperare informazioni da una base di conoscenze effettivamente disponibili con la generazione di nuovi contenuti.

Con la RAG si accede ad un insieme di dati che rappresentano una base di conoscenze, definita anche "memoria". Da essa si parte per creare contenuti più rilevanti o per generare risposte più accurate e pertinenti rispetto alle domande poste dagli utenti.

Lo scopo di questo approccio è quello sfruttare le informazioni disponibili nel corso dello stesso processo di generazione, con un vantaggio in termini di performance. Combinando recupero e creazione ex novo di contenuti si possono implementare sistemi di risposta automatica o piattaforme che richiedono la produzione di testo in base a dati certi.

I vantaggi di Vanna.ai

Vanna è un package Python che ha innanzitutto il vantaggio di essere Open Source. Installarlo è semplicissimo, basta digitare la seguente istruzione come per qualsiasi altra libreria del linguaggio:

pip install vanna

Si può includere Vanna in un'infrastruttura propria con la garanzia che i dataset utilizzati non verranno impiegati per l'addestramento di un LLM (Large Language Model). Come accade invece con la versione standard di ChatGPT. Per quanto riguarda invece gli sviluppatori, è possibile includere le proprie applicazioni basate su Vanna nel front-end di una qualunque Web application.

🚀🚀🚀 Vanna AI 🚀🚀

🤖 Chat with your SQL database 📊. Accurate Text-to-SQL Generation via LLMs using RAG 🔄. pic.twitter.com/UJmyyRiDX1

— 1LittleCoder💻 (@1littlecoder) January 14, 2024

Come anticipato, sono supportati tutti i principali DBMS e la piattaforma è in grado di migliorare costantemente il proprio funzionamento attraverso l'uso. Si possono anche passare delle query SQL personalizzate per il training del sistema in modo da riutilizzarle ogni volta che si devono effettuare interrogazioni simili.

La sua attività si rivela utile soprattutto nel caso in cui si vogliano formulare query particolarmente complesse. L'esecuzione di queste ultime avviene poi localmente, offrendo maggiore sicurezza dal punto di vista della riservatezza dei dati.