L'ambiente di sviluppo su cui baseremo il nostro lavoro sarà fondato sul linguaggio Python. Quest'ultimo non ha bisogno di presentazioni essendo uno dei protagonisti dell'Informatica sin dalla fine degli anni Ottanta. Soprattutto non ne ha bisogno in questo ambito, trattandosi di uno dei linguaggi più utilizzati nel mondo della Data Science, dei Big Data e dell'Intelligenza Artificiale.
I vantaggi di lavorare con Python sono molteplici. Partiamo dalla facilità con cui può essere appreso anche da non esperti di Informatica. Pensiamo poi alla vastità della community che lo segue e lo supporta e alla sua ricchezza di funzionalità per proseguire ricordando tutte le librerie di cui dispone (Pandas, Numpy, Matplotlib etc.). Aspetto che lo predispone naturalmente a prestarsi come ambiente di preparazione dei dati, valutazione dei risultati e loro condivisione.
Tutto ciò che faremo sarà quindi scritto in questo linguaggio. Come ambiente di lavoro potremo contare invece su uno a scelta dei vari esistenti, sebbene quello su cui noi punteremo nelle nostre lezioni è Colab di Google.
Lavorare con Colab
Colab è un ambiente molto utile in tutte le fasi dello studio dell'Intelligenza Artificiale. Sia per quanto riguarda la scrittura di codice sia per la redazione di documentazione da pubblicare in vari formati. La struttura base per lavorare in Colab è il notebook, una sorta di pannello web dove possiamo creare celle per programmare o scrivere in formato MarkDown. Scopriremo ora che possiamo anche dotarlo di una GPU virtuale, caratteristica essenziale per l'AI. Apriamo un attimo una parentesi.
L'Intelligenza Artificiale richiede l'utilizzo di potenti risorse di elaborazione. Quando la utilizzeremo con modelli distribuiti in Rete come quelli di OpenAI (su cui anche ChatGPT si fonda) non ci saranno problemi. Questo perché proprio il provider che offre il modello metterà a disposizione tutta la potenza di calcolo di cui questo avrà bisogno e non dovremo fare altro che eseguire un dialogo in remoto.
Il problema si verificherà quando cercheremo di utilizzare un modello in locale ovvero nel nostro ambiente di lavoro. Questo può avere molti vantaggi tra cui una notevole riduzione dei costi (l'accesso a modelli remoti ha comunque un prezzo) e - altro aspetto molto importante - la riservatezza dei dati che elaboreremo che non viaggeranno in Rete e non verranno condivisi con nessun altro.
Allestendo un ambiente proprio si deve però fornire la necessaria potenza di calcolo non solo tramite CPU ma soprattutto tramite GPU. Le cosiddette schede grafiche. Finché si tratta di dotazioni hardware le si installa fisicamente, affrontando la necessaria spesa. Ma considerando che spesso tali elaborazioni vengono svolte in Cloud, si deve ricorrere alle loro versioni virtuali.
Attivare ambienti Cloud dotati di GPU non è certo gratuito e richiede un minimo di esperienza. È per questo che Colab, al fine di poter offrire tutto il necessario per la sperimentazione, ha integrato all'interno di notebook anche schede grafiche virtuali che potranno essere attivate e rese disponibili per il nostro lavoro.
GPU su Colab
Colleghiamoci a Colab e clicchiamo il pulsante Nuovo notebook. Si aprirà un nuovo file con estensione .ipynb che verrà salvato automaticamente sullo spazio Google Drive dell'account Google con cui abbiamo fatto accesso. In alto a destra, troviamo la zona dedicata alle risorse hardware. Con indicatori di RAM e disco che contempla anche un menu che riporta la voce Cambia tipo di runtime
Figura 1. Cambiare tipo di runtime
Con essa si apre una finestra di dialogo dove scegliere tipo di runtime (Python 3 o R, altro importante linguaggio per la Data Science) e acceleratore hardware. Quest'ultimo è il punto che ci interessa.
Figura 2. Scegliere un acceleratore hardware
Scegliendo come acceleratore hardware T4 GPU invece che CPU (l'opzione selezionata di default) dotiamo il nostro notebook di una GPU con 15 GB di memoria.
Per poter verificare che tutto sia andato a buon fine possiamo aprire una cella del notebook e digitare il comando !nvidia-smi che fornirà in output i dettagli della scheda grafica Tesla T4 che ci è stata fornita con un output simile a quello in figura:
Figura 3. Verifica del runtime
La disponibilità del comando nvidia-smi comprova, già di per sé, che l'acceleratore è stato attivato in quanto altrimenti il comando risulterebbe non esistente.
