L2E: Llama 2, l'AI di Meta, diventa portabile

Llama 2 è un large language model sviluppato da Meta in risposta a progetti come GPT, che sta alla base del chatbot ChatGPT, e LaMDA, utilizzato da Google per animare Bard. La caratteristica principale di Llama 2 è quella di essere una soluzione Open Source, utilizzabile gratuitamente sia in ambito commerciale che dai centri di ricerca. Questa particolarità ha permesso la nascita di diversi progetti, come per esempio L2E (Llama 2 Everywhere).

L2E per le micro LLM

Si tratta di una versione standalone, portabile e avviabile di Llama 2, sviluppato con lo scopo di garantire la massima compatibilità possibile con un'ampia gamma di dispositivi, indipendentemente dalle risorse in dotazione. L2E può essere utilizzato in un vecchio modello di Chromebook in disuso così come nel mainframe di una grande compagnia. Parliamo probabilmente di uno dei primi progetti che nel prossimo futuro permetteranno di implementare e addestrare numerosi LLM estremamente specializzati. Modelli di dimensioni molto contenute e utilizzabili anche con hardware non particolarmente performante.

L2E è avviabile in quanto incarna L2E OS che è stato realizzato a partire dal kernel Linux. Il singolo eseguibile necessario può essere lanciato in qualsiasi sistema operativo x86_64, supportando anche l'impiego in Windows.

L2E e "allucinazioni"

Come tutti gli altri modelli linguistici generativi, anche quelli creati tramite L2E possono dar luogo alle cosiddette "allucinazioni". In pratica degli output imprevedibili, o semplicemente scorretti, a seguito di prompt anche molto semplici inviati dagli interlocutori. Per questa ragione l'autore del progetto offre dei consigli su come identificare e limitare questi fenomeni.

A tal proposito è bene ricordare che L2E è un modello standalone, quindi le operazioni di training, fact checking, validazione degli output e aggiornamento devono essere effettuate da chi lo utilizza per implementare i propri modelli specializzati. Gli ambiti di utilizzo privilegiati per questo progetto sono tutti quelli che prevedono l'interazione con i sensori. Si tratta quindi di una soluzione ideale per progetti legati all'automazione, all'IoT, alla robotica e all'esplorazione spaziale.