Gli attuali motori di deep e machine learning sono basati su vettori multidimensionali.

I calcoli basati su di essi rendono l’Intelligenza artificiale una delle scienze informatiche più energivore: finora l’atteggiamento è stato molto pragmatico, servono più calcoli? Serve più hardware. E via di GPU e TPU liberamente.

Questo approccio impedisce anche una vera democratizzazione dell’AI: puoi avere i modelli in casa finché sono di entità modesta, ma non puoi avere GPT3 se non hai le risorse delle big, puoi solo usarlo da loro, alle loro condizioni.

Ieri mi sono imbattuto in un articolo illuminante, che cerca di ribaltare l’approccio attuale al calcolo nell’AI, cerco qui di aggiungere le mie considerazioni personali.

L’articolo è questo: Vectors are Over hashes are the future of AI.

L’idea di base è quella di rinunciare dove possibile alla matematica floating point in favore degli hash binari. Sì qualcosa del genere a quelli che avete usato per una vita per non memorizzare le password nei database.

Finalmente un’idea da “dev” sull’AI, dove i modelli sono essenzialmente fonti della ricerca matematica.

L’ottimizzazione del software, e perfino la scelta dei linguaggi potrebbe propendere verso nuovi orizzonti.

Ovviamente c’è un enorme lavoro di programmazione dietro, ma si stravolge in cambio il modello computazionale da floating point a operazioni binarie: i processori sono fatti per fare operazioni binarie, il floating point è tradotto in operazioni binarie ed è molto più complicato.

Parlando di ottimizzazione iniziale, probabilmente si tenderà ad usare, almeno per le librerie, linguaggi più performanti come il C, Rust, Vlang etc.

Se questa strada funzionasse avremmo in cambio:

• AI che consumano meno risorse, save the planet!
• Tempi di elaborazione ridotti.
• Minori necessità di farm enormi per i grandi modelli.
• Democratizzazione dell’AI anche presso chi non può permettersi enormi risorse computazionali.
• Meno potere delle big nel controllo degli algoritmi.

Direi che vale la pena tentare, certo non è una strada che si percorre in un giorno, e ci vorrà tempo prima di vederne i primi frutti.