Le cose, le interazioni, la black box

È una questione di paradigmi. Prendiamo quello della sicurezza. Di per sé, è potentissimo. Dove lo applichi, agisce come un grimaldello, scardina le architetture e corrode i margini di strutture culturali e mentali, anche delle più consolidate. Lo fa consensualmente. Vedi la diffusione del riconoscimento facciale: malgrado abbia suscitato alcune proteste, viene accettato dai più, proprio perché promette un miglioramento degli standard di sicurezza, e pazienza per la privacy. Tanto, “chi non ha nulla da nascondere non ha da preoccuparsi”.

Si pensi invece  a uno scenario futuribile, quello dei trasporti: considerato come la stragrande maggioranza degli incidenti siano da imputare a fattori umani (distrazione, imprudenza, colpi di sonno, malori…), dal punto di vista della sicurezza stradale gli automezzi a guida automatica sembrano la scelta più ragionevole. Ma è ovvio che non si tratta di un modello applicabile alla realtà attuale: le città così come sono non sono progettate per consentire il buon funzionamento di un sistema di guida automatica, troppe le irregolarità, i punti di sovrapposizione e intersezione con variabili incongrue, tipo un pedone che decida di attraversare fuori dalle strisce. Ad esempio, occorre ridisegnare il rapporto tra vie carrabili e pedonali, isolare le une dalle altre. Insomma, è necessario mettere in piedi un sistema coerente. Le città dovrebbero quindi essere disegnate (anzi: ridisegnate, come già è avvenuto qualche decennio fa con la diffusione degli automezzi privati) secondo le esigenze degli algoritmi per la guida automatica. Ho provato a immaginare cosa ne uscirebbe, e confesso che il rendering mentale mi ha spinto in zona distopia. Ma forse sono solo un po’ troppo pessimista. Forse.

O forse leggo troppi romanzi distopici. Recentemente mi è capitato di leggere – nella postfazione all’ottimo Tempo fuor di sesto di Philip Dick, a cura di Francesca Guidotti – una considerazione illuminante: “la fantascienza si fonda a suo modo su un’idea di storicità, la quale non consiste tanto nella rappresentazione di un momento passato o futuro, ma piuttosto nella percezione del presente in quanto storia”. Ecco, presumo che essere appassionati di fantascienza significhi fare proprio questo sguardo, ovvero il vizio di storicizzare il presente. Tenuto conto di come il presente oggi somigli a un fronte che si sposta a velocità vertiginosa, dal tracciato mercuriale e dalle traiettorie inafferrabili, è evidente quanto il “compito” della cosiddetta “predictive fiction” sia arduo, oltre che a rischio di invecchiamento rapido e drammaticamente precoce. Vale lo stesso, anzi di più, per la saggistica e per la documentaristica. Ma qualcuno deve pur tentare, per fortuna. 

In questo senso, merita un plauso Andrea Daniele Signorelli, che con Technosapiens (d editore) ha saputo realizzare un volume agile, compatto e intrigante effettuando una ricognizione su alcuni tra i punti critici che emergono sulla superficie irrequieta del presente, tanto più se lo inclini verso il futuro. Se lo storicizzi, appunto.

Tra algoritmi sempre più potenti (altrimenti detti “brute force”) anche se non per questo meno invisibili (non a caso denominati “black box”), profilazione sistematica degli individui/utenti, gamificazione del lavoro e del (cosiddetto) tempo libero, in uno scenario che vede l’intelligenza artificiale e l’internet of things intridere sempre più il quotidiano fino a svanire, ovvero “entrare sotto il cofano”, farsi motore degli aspetti anche apparentemente più insignificanti delle nostre vite, è lecito chiedersi cosa stia accadendo – appunto – alle nostre vite. Al nostro modo di pensare il mondo e al modo di pensarci nel mondo. 

Riprendendo l’esempio della città che si ridisegna in funzione delle automobili a guida automatica, la domanda (retorica, of course) è: non sta forse accadendo anche a noi? Non stiamo forse pensando, vivendo, comunicando sempre più secondo i parametri delle intelligenze artificiali da cui siamo circondati, che supervisionano e organizzano ogni nostro istante?

Se pensiamo al cosiddetto nudging, la strategia del “pungolo” con cui le applicazioni di tipo motivazionale spingono l’utente a seguire certi comportamenti (diete, attività fisica, numero di libri letti in un certo periodo, socializzazione…) o semplicemente ad acquistare certi prodotti, abbiamo già un elemento interessante su cui riflettere: dal momento che la tecnologia è in grado di organizzarmi l’esistenza meglio di quanto potrei fare io, le cedo il controllo. Non mi sforzo più di ricordare, lo faccio fare a Google Calendar. Alla lista della spesa pensa il frigo smart, che mi avvisa anche quando lo jogurt sta per scadere. Chiavi e carte di credito sono destinate ad essere sostituite da algoritmi di riconoscimento che daranno il consenso al pagamento o all’accesso (o li impediranno). Da qui all’introduzione di meccanismi premianti legati al comportamento il passo è breve, brevissimo: non è un episodio di Black Mirror – vedi il famoso Caduta libera – ma è già realtà concreta. 

Accade in Cina, oggi, come ad esempio viene mostrato in Coded Bias, documentario di Shalini Kantayya del 2020, il cui obiettivo principale è mettere nel mirino i software di riconoscimento facciale utilizzati ad esempio dalla FBI e dalla polizia londinese, evidenziando come nel loro codice vengano replicati – consapevolmente o meno – i pregiudizi dei programmatori (in massima parte maschi e bianchi).

Se scenari del genere incutono timore, in realtà ci stiamo allenando ogni istante di ogni giorno al loro avvento, ad esempio riversando una quantità considerevole di dati personali (a partire dalle foto che ci ritraggono, ovviamente) sui social, attratti dalla possibilità di ricevere piccole ma costanti gratificazioni, dosi di dopamina provocate da un like o da un alto numero di visualizzazioni. Un obiettivo tanto più raggiungibile quanto più ci si conforma a determinati atteggiamenti e comportamenti.

Oltre a rappresentare un meccanismo potentemente conformista, sta determinando un cambio di paradigma cruciale: dall’epoca del primato degli enti (delle cose) stiamo entrando nell’epoca del primato delle interazioni. Le ricadute potrebbero essere (saranno, sono) profonde dal punto di vista esistenziale, sociale ed etico, come hanno ben argomentato il celebre filosofo coreano Byung-Chul Han nel suo Le non cose. Come abbiamo smesso di vivere il reale (2021) e prima di lui Franco Bifo Berardi in Futurabilità (2018).

Al di là di un’enfasi – piuttosto blanda a dire il vero, tanto da sembrare di facciata – sul tema della protezione dei dati personali, mi pare che la politica non stia minimamente elaborando il problema. Ed è un problema enorme. Così grande da sovrastare tutto e sottrarsi alla vista. Nei tempi difficili che ci attendono, credo sia importante non perdere il contatto, coltivare una consapevolezza strutturata riguardo alle nostre scelte, alle nostre predilezioni, ai nostri pensieri. Come lavoriamo. Ciò che compriamo, mangiamo, leggiamo, guardiamo, ascoltiamo. Cosa facciamo del nostro corpo. Il nostro grado di connessione e congiunzione con gli altri. Su questo terreno si sta combattendo un conflitto strisciante e incredibilmente vasto, le cui conseguenze stabiliranno le regole di quello spazio sempre più inconcepibile che un tempo chiamavamo futuro.