ThinkGPT: gli LLM "ragionano" con Python

ThinkGPT è una libreria Python pensata per estendere le capacità degli LLM (Large Language Model). Grazie ad essa questi ultimi possono andare oltre alla "semplice" generazione di testi coerenti, imparando a ragionare. Ciò avviene attraverso un sistema di auto-miglioramento degli output, una gestione avanzata della memoria e al supporto per l'integrazione nelle applicazioni Python.

Le funzionalità di ThinkGPT

Rilasciata sotto licenza Open Source e ospitata in un repository su GitHub, ThinkGPT può essere installata facilmente tramite il package manager pip:

pip install git+https://github.com/alaeddine-13/thinkgpt.git

Il suo funzionamento e concettualmente molto semplice: permettere agli LLM di acquisire nuovi concetti tramite l'archiviazione di esperienze precedenti. Contestualmente la libreria consente ai modelli generativi di produrre output sempre più precisi attraverso un meccanismo di self-refinement costante.

Ma non basta, perché ThinkGPT presenta una caratteristica spesso implementata solo marginalmente negli LLM: la capacità di astrazione. In questo modo i modelli riescono ad estendere la loro finestra contestuale. Con questa definizione si fa riferimento allo spazio di memoria in cui risiede il testo preso in considerazione prima della restituzione dei contenuti. Più ampia è la finestra contestuale disponibile più il modello è in grado di ricordare gli input che gli sono stati inviati, gli output prodotti e il loro senso.

Astraendo i concetti ThinkGPT può generalizzarli e definire delle regole per la comprensione delle domande e la generazione delle risposte.

Un'altra funzionalità interessante riguarda la possibilità da parte dell'utilizzatore di esprimere delle condizioni in linguaggio naturale. Lo stesso vale per i task suggeriti al modello che in questo modo può fornire risultati più puntuali. Nello stesso modo la libreria è in grado di sfruttare l'inferenza, o se vogliamo la "deduzione logica", per generare contenuti che siano il più possibile attinenti alle informazioni fornite.

Nella pagina ufficiale di GitHub l'autore del progetto fornisce anche una documentazione completa ed esempi pratici per iniziare a lavorare con ThinkGPT. Come per esempio il codice necessario per insegnare al modello un nuovo linguaggio.