La potenza della suggestione semantica è infinita: diciamo “intelligenza artificiale” e, pur non sapendo cos’è, abbiamo l’impressione di avere a che fare con qualcosa di futuristico, di importante. La stupidità appartiene in ugual modo a tutti, poveri e ricchi, e la capitalizzazione di borsa di Nvidia, che sfiora i 5.000 MLD, lo conferma. Resterebbero delusi le migliaia di investitori diretti e indiretti del colosso dei chip per AI se vedessero cosa c’è veramente dietro questa suggestione? 

Ricorriamo allora alla saggezza delle fiabe e, come il bambino di Andersen, proviamo a gridare: l’intelligenza artificiale è nuda! Vediamo dove ci porta questo approccio disincantato. 

Da millenni esiste la proprietà intellettuale. Le opere dell’ingegno sono sempre appartenute ai loro creatori o a persone che le acquisivano dai creatori a titolo oneroso o gratuito. Certo, nell’età moderna è iniziata una forma di sfruttamento commerciale delle stesse, ma la tecnologia che lo consentiva era così rudimentale (carta stampata, supporti fonografici, celluloide) da non intaccarne mai il principio. Se scrivevo un libro o una canzone potevo duplicare le opere all’infinito vendendo i diritti ad un commerciante (stampatore, discografico…), ma c’era sempre qualcuno che comprava un oggetto fisico ed il meccanismo contrattuale faceva in modo che il prezzo risalisse in tutto o in parte verso l’autore. Un sistema che ha funzionato per millenni è andato in crisi con le tecnologie digitali e la rete.  Come sempre davanti alle nuove tecnologie, il pensiero umano è arrivato in ritardo e le riflessioni si sono polarizzate sugli estremi: difendere la proprietà intellettuale oppure cancellarla completamente inseguendo il sogno del sapere universale e di tutti (open source). Nessuno ha mai dato una risposta a questa (mal posta) domanda, ma - nel mentre che le persone intelligenti perdevano tempo discutendo - il mercato ha agito velocemente e subdolamente sullo sfondo, facendo massicci investimenti per organizzare lo sfruttamento commerciale gratuito di questo capitale intellettuale altrimenti costosissimo.

La capacità computazionale (vale a dire la capacità di un processore elettronico di far passare corrente eseguendo calcoli binari) ha raggiunto livelli di economicità massima: funziona benissimo e costa poco. E si continua ad investire per incrementarla, anche se non ce n’è ormai più bisogno. Anche la capacità di stoccaggio dati ha raggiunto livelli massimi: le server farm hanno volumi di dati tali da non poter neanche essere espressi in grandezze comprensibili all’uomo (petabytes? zettabytes?) e costano relativamente poco (i consumi energetici di questi mostri sono furbescamente esentati dalle problematiche ecologiche, ma in Irlanda non bastano più tutti i parchi eolici per alimentarli). Creare dati e stoccare dati quindi costa poco. Ma consente sfruttamenti commerciali immensi, che hanno però bisogno, per essere perseguiti, di mascherarsi dietro suggestioni “neutre”, che non spaventino un’opinione pubblica che in genere si ferma alle prime due righe di Wikipedia.

La mente umana – diciamolo – dopo migliaia di anni, pensa ancora e sempre in modo antropomorfo: il fulmine è la collera di Zeus, la sfinge è un faraone-leone, la potenza di una macchina un cavallo vapore… Quindi anche un database finisce per essere chiamato intelligenza. Cosa si è fatto negli ultimi cinquant’anni se non prendere tutti i pezzi del sapere umano, sottrarli ai supporti fisici in cui erano racchiusi, codificarli in un linguaggio macchina universale (algoritmo) e stoccarlo in enormi elaboratori?

Non è l’aspetto tecnologico che mi interessa in questa sede, ma quello antropologico. Cosa succede all’uomo durante questo processo universale di “knowledge sharing”? La tecnologia, man mano che evolve, si allontana dalle facoltà percettive dell’uomo. Un contadino sa usare perfettamente un rastrello e sa come raccogliere il fieno. Ma se comincia ad usare un trattore con un rastrello meccanico finirà con non sapere più come si fanno le balle di paglia. Le fa la macchina e lui usa la macchina, ma progressivamente perde il know-how del rastrello. Quando uscirono le prime automobili ogni proprietario sapeva smontarle e rimontarle, ripararle. Oggi nessuno apre più il cofano della propria autovettura: per quanto riguarda la maggior parte degli utenti, sotto potrebbero esserci degli gnomi che pedalano! Salvo provare frustrazione quando rimani fermo per strada ed il soccorso stradale non arriva. Da un punto di vista progettuale, questo allontanamento della tecnologia dalle facoltà percettive umane fa sì che la nascita di una nuova tecnologia comporti di fare leva su un know-how preesistente e non più conosciuto in profondità. Creo un nuovo computer, ma il processore lo compro e non mi interrogo su come è fatto. Lo collego e funziona. Il sistema operativo è solo uno sviluppo dei precedenti, di cui ormai si sono perse le sorgenti. E’ a questo punto, cioè raggiunto un certo grado di allontanamento della tecnologia dalla percezione umana che nasce quella che oggi chiamano - con una espressione semplicemente barbarica - intelligenza artificiale. Dopo aver racchiuso i saperi umani in data base tecnologici si cominciano a connettere tra di loro questi data base, che quindi diventano “intelligenti” (sic) nella misura in cui interagiscono tra di loro scambiandosi dati senza la mediazione umana. Perché, in una lettura meccanicistica, “intelligenze” è solo collegare osservazioni, fatti ed eventi astraendone costanti.

Qualcuno direbbe:” ecco l’ennesimo Savonarola che vuole tornare indietro! Ecco il Ned Ludd del terzo millennio. Oggi con AI fai tutto: prenoti un volo, paghi un bollettino, voti alle elezioni… . Come potremmo tornare indietro?”. Qui si manifesta il grande inganno. Le cose che ho elencato prima non sono AI. Sono normali funzionalità che i software, in locale o web-based, garantiscono da almeno vent’anni e continueranno a garantire. L’intelligenza artificiale arriva dopo, è il passo successivo. Esci dal campo del software ed entri in quello dei database. Finché la prenotazione di un volo si esaurisce in una transazione informatica siamo nel campo del software. Quando questa transazione viene acquisita ed inserita in un database rendendola identificabile nella sua fonte cominciamo ad andare oltre. Perché alla prima registrazione di informazioni se ne aggiungono rapidamente altre, visto che creare e stoccare dati costa poco. Costa un po’ di più (ma non troppo!) scrivere un algoritmo che collega tutte quelle informazioni, e a questo punto sei nel mondo della AI. Quella che chiamano “intelligenza” attribuisce un valore statistico ponderato all’insieme delle tue transazioni e cominciano ad apparirti informazioni su viaggi in quella zona, prodotti simili o affini, eventi ricollegabili a vario grado con quelle transazioni. Le possibilità di “profilazione” sono infinite, ma tutte aberranti. Piccolo esempio: tutte le compagnie di assicurazione hanno database sulla sinistrosità per aree geografiche e collegano ogni nuovo assicurato a quelle aree. Se vivo in un’area ad alta sinistrosità pagherò di più, anche se io non ho fatto incidenti. Solo per la mia residenza. La tecnologia consentirebbe di adeguare il premio alla mia vera sinistrosità, ma si scelgono algoritmi che penalizzano il singolo e massimizzano il profitto. Ancora una volta lascio perdere le tematiche legate allo sfruttamento commerciale dei dati e mi concentro solo sull’aspetto antropologico. Dopo un po’ io sono contento di essere profilato. Vedo le pubblicità delle cose che penso mi piacciano, non vedo quelle che mi annoiano. Mi tolgo da solo la possibilità di vedere cose diverse e nuove, ma sto bene e mi sento rassicurato dai paraocchi che io stesso ho contribuito a costruire. Confortably numb. Non importa che ci siano strumenti giuridici (richieste di consenso) per tutelarmi, semplicemente io non voglio essere tutelato perché l’algoritmo lavora sul bisogno di rassicurazione che è insito nell’animo umano. Quindi uccide uno dei principali motori psicologi dell’evoluzione umana, che è stata la curiosità. Anzi, in un momento in cui parliamo tanto di valore della diversità da un lato, dall’altro stiamo facendo nascere una infrastruttura tecnologica che appiattisce tutto. Si sente odore di Orwell, ma probabilmente tra un po’ chi cerca il celebre scrittore su Wikipedia lo troverà indicato come autore di un famoso reality show.

Abbiamo quindi messo a nudo la dimensione “individuale” della AI, che è solo profilazione e marketing in primis, manipolazione pura dello spirito dell’uomo alla fine. 

Esiste però una seconda dimensione dell’AI, che è nota come “machine to machine”, o capacità di far dialogare tra di loro gli impianti tecnologici e così facendo di metterli in grado di “auto-apprendere”. Computer che si auto-programmano, macchinari industriali che si auto-impostano, decisioni finanziarie che si auto-realizzano, sistemi logistici che si auto-equilibrano…

Ci hanno spiegato che è il grande progresso. Ma proviamo anche in questo caso a mettere il re a nudo. Tecnicamente il machine-to-machine è fatto di tre apparati: i sensori, che raccolgono i dati che sono programmati a raccogliere, il software che assiema questi dati in base ad un algoritmo e le telecomunicazioni che fanno dialogare i data base. Faccio un esempio che conosco bene. Cosa c’è di più “green” di una pala eolica? Il vento la fa girare, lei fa girare una turbina meccanica che genera corrente elettrica. Oggi questi apparati sono tempestati di sensori che rilevano in continuazione dati: temperatura e vischiosità dell’olio di lubrificazione, usura meccanica degli ingranaggi, pressione del vento necessaria per l’avvio e stress meccanico dei componenti. Tutti questi dati di per sé sono inutili, non te ne fai niente. Ma messi in un database, con un software che li elabora attraverso un algoritmo (arbitrariamente) scritto apposta, possono generare un ciclo di manutenzione predittiva. In pratica, ti dicono che invece di cambiare l’olio ogni 1.000 ore di funzionamento puoi cambiarlo solo quando effettivamente le sue capacità lubrificanti si sono degradate al punto di mettere a rischio gli organi meccanici. Poi con apparati di telecomunicazioni mandi queste informazioni ad elaboratori centrali che li assiemano a quelli di altre pale eoliche dando al campione una rilevanza statistica molto più ampia. Tutto questo come dicevo richiede un investimento in sensori, in programmazione software ed apparati di rete che assicurino le telecomunicazioni in maniera tempestiva e – cruciale in tempi di pirateria informatica – soprattutto sicura. Nessuno ha ancora affrontato le questioni giuridiche emergenti, come ad esempio la proprietà dei dati così raccolti (se ti faccio mettere dei sensori su un macchinario di mia proprietà, a chi appartengono i dati? Tu mi vendi servizi di manutenzione preventiva, ma i dati sono prelevati dalle mie macchine. Perché dovrei pagarli?) ma più importante mi sembra la domanda: il gioco vale la candela? Questi investimenti – che costano – si ripagano veramente in efficienza? Si è provato in vario modo a rispondere a questa domanda, ma nessuno c’è mai veramente riuscito. Alla fine, si è deciso anche qui di evitare la domanda e dare per scontato che il ritorno c’è anche se non si vede. Tanto è tutto business, soldi che girano ed occupazione. Incluso l’enorme spesa in IT security, perché un banale malware può bloccare costosissimi investimenti che prima erano inarrestabili. Quindi il machine-to-machine è fatto solo da sensori, software ed apparati trasmittenti. I sensori sono economici, ma misurano poche cose: temperature, pressioni, tensioni. Raccogli tanti dati, ma tutti della stessa specie. I software archiviano una mole immensa di dati ma gli algoritmi sono scritti per rispondere a domande pre-impostate da cui non si può scappare. E spesso le domande sono fatte in modo tendenzioso, contenente anche le risposte, per cui gli algoritmi servono a confermare l’esattezza di assunzioni aprioristiche. Insomma: non sbagliano mai, al contrario della ricerca scientifica che è un cammino costellato di errori emersi durante le verifiche. E, non cercando più risposte ma solo conferme si creano danni indiretti immensi.

Facciamo un esempio semplice. Perché le automobili moderne sono tutte uguali e tutte ugualmente  tendenti al brutto? Perché non nasce più una Citroen DS, un Maggiolino,  una Lancia Fulvia? Perché sta scomparendo il design. Le linee delle automobili sono fatte in base ai dati inseriti nei programmi di progettazione assistita (Computer-Aided-Design= CAD): dato un certo coefficiente aerodinamico, dati i vincoli di produzione industriale delle scocche, dato le forme richieste dalle normative urto pedoni…voilà, la banalità è servita!  La cosa è ancora più evidente oggi che, nella morte generalizzata delle idee, si fa solo revival di vecchi modelli. E’ appena uscita la “nuova” Renault 4. Confrontatela con quella degli anni ’70, disegnata con la matita ed il tecnigrafo. Il contenuto emotivo del design di allora vince a man bassa su quello generato da intelligenze artificiali. Risultato finale? Diciamo che il mercato dell’auto è cambiato, che i giovani non vivono più l’automobile come un prodotto emozionale ma solo come un elettrodomestico funzionale. E quindi non le comprano più. E quindi milioni di lavoratori devono riconvertirsi professionalmente. 

E’ questa l’unica conclusione possibile. Una tecnologia il cui fine è solo quello di ridurre costi attraverso lo sfruttamento organizzato delle idee (e che abbiamo elevato al rango di “intelligenza”) ci sta rendendo tutti più tristi, più poveri e senza sogni. Come successe nella prima rivoluzione industriale con l’introduzione della macchina vapore. La storia si ripete: l’uomo inventa le soluzioni tecnologiche, non ne comprende fino in fondo il valore o la portata e finisce col farsi sottomettere dalla sua creatura (scusa Mary Shelley). Così sono nati quegli incubi tecnologici degli opifici di fine ‘800, il taylorismo ed i conflitti sociali. Poi, negli anni ’60 del Novecento, quando la misura è stata piena, lo spirito dell’uomo si è ribellato ed ha reagito (male). Ora siamo tutti di nuovo come contadini di fine ‘800 che assistono perplessi all’avviamento della prima mietitrebbia meccanica. Ci dicono che abbiamo davanti un futuro brillante, in cuor nostro ci sentiamo a disagio ma lasciamo fare. Il processo ci sembra irreversibile. 

Ci siamo dentro in pieno. La parabola ascendente dell’AI è ancora forte, la sua parabola discendente non è ancora cominciata. Ma si comincia ad intravedere l’orizzonte nelle prime manifestazioni di insofferenza. Nelle persone che non accettano più automaticamente il trattamento dei loro dati ma cominciano a cliccare su “rifiuta tutti”. Nel fatto che i social media, dopo vent’anni di beatificazione, cominciano ad essere percepiti come “fogna” delle idee ed abbandonati. Nelle aziende che cominciano a cercare un valore reale per i loro investimenti e non quello suggerito dal mainstream delle società di consulenza.

Ci vorranno decenni, ma verrà il ’68 dell’AI e l’immaginazione tornerà al potere. Le emozioni torneranno a ricordarci che non siamo uomini artificiali ed il mostro di Frankenstein si perderà nella nebbia e nei ghiacci

Nel mentre, ci sarà da tenere sveglie le coscienze.