Umani e macchine: cosa significa delegare la complessità all’intelligenza artificiale

Di Miguel Benasayag, filosofo e psicoanalista

La necessità non è di capire, conoscere e prevedere tutto, ma di accettare che ci sia del non-capibile (quindi non-rappresentabile), del non-conoscibile e del non-prevedibile. Ancor di più, sosteniamo la necessità di “ripensare il pensiero”, accettando che nella complessità esso non sia capace di pensare tutto ciò che vorrebbe.

”Che cosa dobbiamo fare?” si chiedono le società moderne, aspettando spesso che la risposta sia conferita dagli intellettuali di turno come una ricetta infallibile consegnata da uno chef di rango mondiale. Ma l’individuo, lungi da essere un soggetto esterno capace di risolvere il problema, è parte stessa del problema.

Di fronte al fallimento della razionalità moderna e all’emergenza della complessità, l’individuo ha scelto come strategia di delegare la razionalità alle macchine, sperando così di attuare di nuovo il sogno patologico di un mondo governato da una ragione calcolante e di schivare la complessità regnante. Si potrebbe parlare di un doppio movimento, quindi. Da una parte, delegando la razionalità e la gestione della vita alle macchine, si contribuisce a creare un mondo dominato da logiche lineari e prevedibili (proprie all’artefatto) che non lasci spazio ai caratteri di non-transitività, non-prevedibilità e impossibilità di rappresentazione completa di ogni insieme complesso; dall’altra, ci si prova ad adattare a questo mondo abdicando a un soggetto ormai sparpagliato e accettando di funzionare dentro quelle stesse logiche lineari e prevedibili che le macchine contribuiscono a creare.

Pisa, Studio di sperimentazione sull’Intelligenza Artificiale

Questo doppio movimento si fonda su una concezione di fondo ben chiara: esiste continuità di natura tra il vivente e la macchina. Per questo si può pensare a un mondo governato da logiche lineari e prevedibili in cui i “soggetti” funzionanti s’inseriscano perfettamente. Tutto funziona, niente più agisce o decide: non c’è spazio per la presupposta singolarità del vivente e del suo modo di essere-al-mondo, l’esistenza. In un mondo forgiato su quest’idea, le macchine diventano ovviamente le migliori candidate per gestirlo e, in qualche modo, governarlo. Non stiamo immaginando uno scenario distopico futuro ma ci riferiamo a ciò che realmente accade nelle nostre società. La governance Big Data e dell’IA è oramai un dato di fatto: dai grandi orientamenti in macro-economia, alla giustizia predittiva, alle diagnosi personalizzate in medicina basate su microcomportamenti, il nostro mondo sembra attraversato da una tendenza ben chiara a lasciare sempre di più la gestione alle macchine. Lo scenario appare dunque critico sotto più punti di vista. Innanzitutto, la gestione dell’IA non si interessa più agli individui in quanto tali, in quanto persone che decidono e esistono, ma agli individui dislocati in una molteplicità di micro-comportamenti, di micro-interessi e di micro-atti. Il soggetto esistente con un proprio spazio d’intimità si trasforma, nel mondo del funzionamento e della governance algoritmica, nel profilo definito dai suoi comportamenti modellizzabili e identificabili. Questi micro-comportamenti rilevati non hanno niente a che vedere con le decisioni sensate di una persona e sono invece presi come informazioni asemantiche, le uniche con le quali le macchine Big Data possano avere a che fare. Se la realtà non è più quella delle persone e delle loro esistenze complesse ma quella per cui tutto è informazione e le decisioni vengono prese in base a modelli elaborati dalle macchine, le conseguenze per gli abitanti e le abitanti delle nostre società sono disastrose. Tutti gli elementi che non sono considerati utili, che non rientrano nelle logiche lineari previste e imposte dai calcoli delle macchine vanno eliminati, repressi o esclusi da ciò che fa sistema. In questo senso la democrazia è attaccata dal fatto che le macchine si sostituiscono all’essere umano per gestire (non più “decidere”, cosa che implicherebbe un soggetto che decide) una società composta da profili. Non c’è più spazio per l’individuo, principale soggetto della democrazia moderna. Nella post-democrazia in cui viviamo, le esistenze diventano funzionamenti, gli individui profili, la politica gestione. Un ulteriore elemento che si aggiunge allo scenario della post-politica consiste nel fatto che ogni decisione sembra avvenire in una dimensione lontana, separata dai cittadini e dalle cittadine, sulla quale non si può influire realmente. L’impotenza diventa allora il sentimento dominante. I governi votati danno spesso l’impressione di non cambiare mai radicalmente da quelli che li precedono, per lo meno non nella sostanza ma solo nello stile e nella forma. Ciò avviene anche perché la vera governance, come l’abbiamo già spiegato, è oramai conferita alle macchine, cui spetta il ruolo di creare e gestire ad esempio i modelli economici ai quali i diversi governi dovranno, in linea di massina, attenersi. Anche le forme di partecipazione politica alternative al voto, come le manifestazioni, gli scioperi o le iniziative civili sembrano destinate, come per un incantesimo maligno, al fallimento costante. La sfiducia nel sistema politico e nella “democrazia” diventa quindi inevitabile. Nella post-democrazia, le istituzioni democratiche e la “politica” che, apparentemente, hanno conservato la stessa struttura e gli stessi ruoli, non sono più viste come possibilità di emancipazione e di cambiamento, come luoghi di decisione reale. A questa sfiducia generalizzata e alla crescente distanza dalla politica si risponde spesso con un’incitazione a ri-politicizzare la vita e il campo sociale. Ciò che invece è necessario capire e che costituisce un punto centrale del nostro pensiero è che il cambiamento cui assistiamo riguarda la materialità stessa del nostro mondo e delle nostre società. La “maglia” della realtà è cambiata e non si può pensare, per affrontare la complessità, di adottare ricette del passato nella classica tendenza di guardare al futuro nel retrovisore. L’esplosione del dispositivo moderno e naturalista implica necessariamente una nuova riflessione sul soggetto dell’agire nell’epoca della complessità, in politica come altrove, senza la quale non sarebbe nemmeno possibile accorgersi di star diventando profili impotenti e svuotati della complessità pluridimensionale che caratterizza gli esseri umani. Con la fine della democrazia moderna e del naturalismo siamo dunque obbligati a riconoscere che l’agire umano è articolato con numerosi altri elementi (ecologici e metereologici ad esempio) che non dipendono solamente o assolutamente da lui e che il risultato di quest’agire non è mai dato in anticipo. Ripensare il soggetto agente e delle pratiche politiche differenti ed estranee alle logiche della gestione è un imperativo al quale non ci si può sottrarre, evitare di utilizzare ricette del passato come se fossero valide indipendentemente dal contesto è un errore da evitare.