AWS: Ragionamento Automatico contro le allucinazioni dell'AI

AWS ha annunciato l'anteprima dei controlli di Ragionamento Automatico in Amazon Bedrock Guardrails. Una soluzione pensata per prevenire errori derivanti dalle cosiddette allucinazioni dei modelli linguistici di grandi dimensioni (o LLM). Queste ultime si riferiscono alla generazione di risposte apparentemente plausibili ma fattualmente errate o addirittura inventate di sana pianta.

Questa funzionalità si basa su algoritmi matematici e processi logici. Entrambi progettati per garantire che le risposte degli LLM siano coerenti con riscontri fattuali. Viene così ridotta la probabilità di errori nella logica di una risposta o incoerenze.

LLM e allucinazioni delle AI

Gli LLM permettono generare facilmente contenuti, automatizzare processi e supportare decisioni aziendali. Possono però produrre informazioni inesatte. Questa caratteristica, spesso definita "allucinazione", può rivelarsi ancora più problematica in ambiti sensibili come la finanza, la sanità o il settore legale. La capacità di identificare e mitigare tali errori è quindi essenziale per migliorare l'affidabilità dei sistemi basati sulle AI.

A questo proposito, Amazon Bedrock Guardrails è una suite di strumenti concepita appositamente per incrementare l'affidabilità delle applicazioni di intelligenza artificiale generativa in AWS. Offre funzionalità come filtri per contenuti inappropriati, redazione automatica di informazioni personali identificabili e meccanismi per garantire la privacy e la sicurezza dei dati. Con l'integrazione dei controlli di Ragionamento Automatico essa consente ora di implementare policy avanzate che vanno oltre il semplice filtraggio di contenuti. Verificano infatti matematicamente la coerenza logica e la veridicità delle risposte.

Benefici per gli sviluppatori su AWS

I controlli di Ragionamento Automatico offrono agli sviluppatori una maggiore sicurezza nel deploy delle applicazioni. Si riduce infatti il rischio che gli LLM forniscano informazioni inesatte, diminuendone la probabilità. Ciò è particolarmente utile per applicazioni in cui l'accuratezza e l'affidabilità degli output sono determinanti.

Esso si distingue dal machine learning in quanto fornisce garanzie matematiche sul comportamento di un sistema. AWS utilizza già il Ragionamento Automatico in aree chiave dei servizi come archiviazione, rete, virtualizzazione, identità e crittografia.

Viene impiegato ad esempio per verificare formalmente la correttezza delle implementazioni crittografiche, con vantaggi sia per le prestazioni che la velocità di sviluppo.