Mistral lancia nuovi modelli di IA per i dispositivi edge, i dettagli

La startup francese Mistral ha recentemente lanciato i suoi primi modelli di intelligenza artificiale generativa, progettati per essere eseguiti su dispositivi edge come laptop e smartphone. Questi nuovi modelli, chiamati "Les Ministraux", sono pensati per una vasta gamma di applicazioni, dalla semplice generazione di testo alla collaborazione con modelli più potenti per portare a termine compiti complessi.

Attualmente, Mistral ha presentato due modelli principali della nuova famiglia: Ministral 3B e Ministral 8B. Entrambi vantano una capacità di contesto di 128.000 token, il che significa che possono gestire dati equivalenti alla lunghezza di un libro di circa 50 pagine. Questa caratteristica permette ai modelli di processare grandi quantità di informazioni in un singolo ciclo di elaborazione, rendendoli particolarmente efficienti.

Uno degli obiettivi principali di questi modelli è offrire una soluzione per applicazioni locali che richiedono una bassa latenza e un'elevata efficienza computazionale. Secondo quanto riportato dalla startup, la domanda di soluzioni basate sulla privacy, come assistenti virtuali che operano senza connessione a Internet o sistemi di analisi autonoma, è in costante crescita. Ministral 8B, il modello più avanzato, è già disponibile per il download per scopi di ricerca, ma chi desidera usarlo per finalità commerciali dovrà richiedere una licenza.

Una strada già ben delineata per alcuni colossi aziendali

Gli sviluppatori possono inoltre accedere ai modelli attraverso la piattaforma cloud di Mistral, denominata "La Platforme", o altre piattaforme cloud con cui l'azienda ha stretto collaborazioni. I costi per l’utilizzo variano: Ministral 8B ha un prezzo di 10 centesimi per milione di token, mentre Ministral 3B costa 4 centesimi per lo stesso volume di input e output.

Questa mossa si inserisce in un trend crescente nel settore dell'intelligenza artificiale, che vede un maggiore interesse per modelli di dimensioni ridotte, più veloci ed economici da addestrare rispetto ai modelli più grandi.

Aziende come Google e Microsoft stanno già seguendo questa strada, con i modelli Gemma e Phi. Mistral, che ha recentemente ottenuto un finanziamento di 640 milioni di dollari, punta a rivaleggiare con le principali aziende del settore, come OpenAI e Anthropic, e ha già iniziato a generare ricavi quest'anno.