Intelligenza artificiale e deficienza naturale
La Rubrica - Cybersecurity Week
Per la prima volta non sapevo di cosa scrivere questa settimana, poi sono giunti in mio soccorso prima l’amico Lorenzo Motta e subito dopo Elon Musk: il primo mi ha segnalato il Tweet del secondo in cui afferma che “L’anno prossimo l’IA sarà probabilmente più intelligente di ogni singolo essere umano. Dal 2029 l’IA sarà probabilmente più intelligente di tutti gli esseri umani messi insieme”.
Non mi starò a dilungare sul fatto che sarebbe interessante mettersi d’accordo sul significato del termine “intelligenza”. Un dato di fatto che può tornare a vantaggio di Musk permettendogli di potere sempre affermare: “In realtà non intendevo questo". Piuttosto vorrei sottolineare alcuni dettagli tecnico-scientifici e altri di semplice buonsenso. Partiamo dai primi.
Se la capacità di elaborazione di un cervello è legata al numero di connessioni, allora le attuali IA ne hanno ancora parecchi di meno di quelle umane. Un altro aspetto non meno significativo è legato all’evoluzione che ha forgiato la nostra “intelligenza” e alcune nostre capacità intuitive, senza le quali nessuno di noi, Elon Musk compreso, sarebbe qui oggi. L’esempio più calzante che mi viene in mente è la nostra vista e la sua capacità di “sintesi”. Se guardiamo un cespuglio e qualcuno ci chiede a bruciapelo quante foglie ha potremmo avere diverse reazioni. Probabilmente troveremmo la domanda irrilevante e la risposta di scarsa utilità, forse la considereremmo anche stupida. Una IA, invece, risponderebbe al volo. Adesso modifichiamo lo scenario. Nello stesso cespuglio tra le migliaia di foglie c’è una piccola macchia nero-arancione, la notiamo in una frazione di secondo e ci prepariamo alla fuga o allo scontro perché potrebbe essere un predatore, magari una tigre. Domanda: è più intelligente chi riesce a contare tutte le foglie o chi individua tra le foglie la presenza di una potenziale minaccia? Immagino che la risposta potrebbe non essere univoca (come dicevo su cosa sia l’intelligenza potremmo essere in disaccordo). In ogni caso possiamo tranquillamente affermare che quelli dotati della seconda capacità sono ancora al mondo. Veniamo ora alla parte di buonsenso.
Sappiamo che le IA vengono addestrate su basi dati il cui contenuto e struttura è frutto dell’intelligenza umana. Altresì sappiamo che le IA sono macchine statistiche. Possiamo dedurne che con ogni probabilità un’IA generalista sarà “intelligente” come un essere umano medio, soprattutto se addestrata tramite meccanismi di apprendimento con rinforzo legati alle reazioni degli utenti. A tal proposito rammento il caso del chatbot Tay di Microsoft che dopo essere stato messo on line su Twitter è stato trasformato dagli utenti del social in ninfomane, razzista, misogino e antisemita. In qualche modo l’IA potrebbe sintetizzare il nostro modo di essere in quanto specie e non tanto come individui. A differenza di Musk che crede nella “somma”, mi sento più propenso a confidare nella “media”. Se così fosse il problema non sarà tanto la super IA, quanto un algoritmo progressivamente afflitto dalla deficienza naturale che connota una parte dell’umanità. Aggiungo un altro dettaglio.
Come ho scritto in uno dei miei libri ritengo che l’uomo abbia uno spiccato istinto di sopravvivenza come individuo e una malsana tendenza al suicidio come specie. Viste le premesse la situazione potrebbe diventare preoccupante.
