Press "Enter" to skip to content

Socrate automatico: come gli algoritmi rischiano di distruggere la libera scelta umana

Sempre più spesso la libertà di scelta umana viene condizionata da variabili esterne che sono pilotate dagli algoritmi e dalla traccia digitale che lasciamo

Comprendo che il titolo di questo articolo risulterà un po’ particolare ma più avanti nella lettura capirete il perché di questa scelta che racchiude il senso di tutto il testo. Questa mattina mi sono svegliato più filosofo del solito, per cui accettatemi così.

Un aspetto essenziale a cui ritengo prestare l’attenzione che merita è l’algoritmo, concetto grazie al quale tutto il mercato datista e il suo nuovo sistema economico si reggono. Comunemente, quando si pensa a questa formula matematica, la mente fa subito riferimento all’epoca in cui viviamo, alla tecnologia e a tutte le innovazioni di cui ci circondiamo oggi. La parola però ha origini molto antiche; deriva infatti dal nome del matematico arabo al-Khuwārizmī che nel IX secolo diede un nome allo schema matematico. In ogni caso, con la parola algoritmo non si intende nulla di trascendentale a prescindere, ma semplicemente un qualsiasi procedimento sistematico di calcolo. Ovviamente con gli anni la parola ha assunto, nell’accezione più comune, una sorta di aurea da alta matematica, questo perché secoli di studi matematici, hanno portato alla scrittura di algoritmi sempre più complicati agli occhi di chi non ha molta famigliarità con la materia.

Nonostante le origini millenarie e la diffusione degli algoritmi in tutto il mondo, passando per Grecia, Persia o Babilonia, dove hanno potuto aiutare gli uomini a risolvere innumerevoli problemi, risulta lecito affermare che mai come ora, queste ricette matematiche hanno importanti e dirette conseguenze sulla vita degli esseri umani. Dalla metà dell’Ottocento, anni in cui Ada Lovelace sviluppò quello che viene considerato il primo algoritmo informatico, tutta una serie di pensieri e rivoluzioni matematiche portarono agli algoritmi così come li conosce oggi l’uomo, che non sono finalizzati al mero utilizzo matematica, ma vengono sfruttati per gli scopi più disparati, come prenotare un volo o effettuare una transazione finanziaria. Tutto questo sviluppo ci permette, al giorno d’oggi, di vivere un mondo reso un po’ più semplice dagli algoritmi, che rendono possibile ad esempio la guida autonoma di un’automobile, di raggiungere molte informazioni in un tempo brevissimo o di delegare lavori banali o pericolosi a macchinari altamente specializzati. Ciò nonostante gli algoritmi, come molti oggetti a nostra disposizione, possono avere degli effetti negativi. Affidarsi senza riserve ai risultati che generano, rischiano di creare situazioni paradossali, come quanto accaduto in riferimento agli insegnanti dello stato di Washington D.C. La commissione delegata alla valutazione degli insegnanti aveva deciso, infatti, di assegnare questo compito ad un algoritmo che tra il 2009 e il 2011 segnalò circa il 7% degli insegnanti valutati come “cattivi” e quindi licenziati a causa del basso punteggio ottenuto. Quello che successe fu però che alcuni insegnanti vennero valutati in modo errato, alcuni licenziati senza valide motivazioni e ad altri non venne assegnato il bonus che spettava. La causa fu attribuita ad un errore di sintassi nel codice dell’algoritmo. Questo risulta essere solo un esempio di come gli algoritmi possono sbagliare, altri esempi giungono dal mondo dei media che hanno parlato di chatbot razzisti o auto killer. Questi errori sono in ogni caso frutto della fallacità umana che ha portato ad un utilizzo erroneo dello strumento.

L’aspetto negativo di questo continuo ricorso ai calcoli e alle formule matematiche, però, rischia di portare l’umanità intera verso ciò che il filosofo francese Bernard Stiegler ha denominato come società automatica. Nella pratica, secondo lo studioso, l’era dell’Antropocene, destinata alla sua conclusione poiché reca in sé il suo stesso superamento, è l’era del capitalismo industriale, al cui interno il calcolo prevale su ogni altro criterio di decisione. Quando questo dominio diventa algoritmico e macchinico, tutto si materializza come un automatismo che porta all’avvento del nichilismo della società che diventa così automatica, teleguidata e telecomandata. Secondo Stiegler, in questo modo, l’uomo rischia di entrare nella era del Negantropocene, il tempo in cui l’attività umana è esplicitamente governata. A causa di questa automatizzazione della società il rischio è quello di entrare in una realtà in cui tutto è orientato al ritorno dell’investimento fatto e in cui ogni aspetto è mercificato, anche le più piccole pratiche umane che, grazie alle tecnologie moderne, assumono l’aspetto di una semplice ed “insignificante” traccia digitale grazie alla quale questa società dell’ipercontrollo proletarizza ogni aspetto umano e sociale per creare profitto.

Un interessante commento a questo tema, è quello effettuato da Jonathan Cray, in 24/7. Il capitalismo all’assalto del sonno, nel quale ammette che l’industria della tracciabilità, ovvero sia quella del mercato datista che raccoglie continuamente dati umani e sociali, doppia gli individui con le tecnologie dello user profiling, non soltanto facendone dei modelli di marionette digitali, ma producendo i loro “profili” a partire dalla loro attività in rete. L’industria della tracciabilità perviene alla loro integrazione funzionale in sistemi di mercato 24/7 e un’infrastruttura globale concepita per forme di produzione e consumo senza limiti. Seguendo l’analisi di Shoshana Zuboff, questo nuovo tipo di capitalismo, che ha assunto differenti nomi, detiene generalmente un unico scopo che è quello di privare inconsapevolmente gli esseri umani di quella sfera privata che credevano di possedere. Il nuovo sistema economico attua queste pratiche in maniera automatica, servendosi delle tecnologie digitali, al fine di estrarre dati, all’apparenza insignificanti, che grazie ai quali è possibile estrarre un valore tale da essere considerato uno dei business più redditizi del momento. Per poterci collegare all’analisi effettuata da Bernard Stiegler, l’oggetto di interesse del governo algoritmico sono le relazioni. Sfruttando esse, la governamentalità algoritmica sostantifica tali relazioni riducendole a correlazioni, procedendo in questo modo verso una radicale disintegrazione della vita umana e delle relazioni sociali.

Secondo Stiegler è dunque necessario, per evitare una disintegrazione dell’uomo, uscire da questa “dittatura” dell’algoritmo, ma per fare ciò è necessario comprendere cosa realmente siano queste formule, e capire innanzitutto che in essi non risiede il reale problema di questo cambiamento socio-economico. Piuttosto, il problema risiede nel modello sviluppato nella Silicon Valley e diffuso in tutto il mondo, che intende far passare l’idea secondo cui la digitalizzazione e la datizzazione siano la cura ad ogni problema dell’uomo e che occorre fidarsi ciecamente di essi. Però, come già spiegato, gli algoritmi non esistono in natura, essi sono un bene artificiale, creato dunque per mano dell’uomo, che molte volte si è dimostrato soggetto ad errore. La questione, quindi, se vista in questo modo, si sposta e si trasforma. Non è più una scelta tra fidarsi o non fidarsi di un algoritmo o di un processo di datamining, ma è diventata una decisione da prendere in merito al fidarsi senza condizioni di un’opera umana, che, però, mira a disumanizzare sé stesso e la società. Il rischio è dunque quello di entrare in una società, creata e sponsorizzata dall’uomo, all’interno del quale però giace il germe della disumanizzazione. L’essere umano rischia di perdere completamente il controllo della situazione, consegnando tutto il potere ad automatizzazione nei confronti del quale avrà sicuramente la forza di fare qualcosa, ma sarà impossibilito dalla mancanza di creatività e di coraggio, poiché, se tutto sarà legato ad una serie di algoritmi, quale possibilità avremo di “staccare la spina”?

Per giungere al perché di questo titolo. In tempi antichi, Socrate pensava che le tracce scritte avrebbero portato ad una proletarizzazione di ogni esteriorizzazione del sapere. Allo stesso modo, Bernard Stiegler, afferma che le tracce digitali, che vengono raccolte dalla società dell’iper-controllo, o dal mercato datista, o dal capitalismo della sorveglianza, siano delle ritenzioni che rischiano di disintegrare le pratiche umane e sociali e degradare tutti questi aspetti ad un mero oggetto di calcolo. Con l’automatizzazione integrale e generalizzata, il nichilismo computazionale che si sta realizzando, sembra, non solo disintegrare gli aspetti umani del mondo che conosciamo, ma rischia di generare una nuova forma di totalitarismo. Solo all’uomo sta la scelta di comprendere quali siano la vera potenza racchiusa negli algoritmi che possa essere sprigionata a vantaggio dell’uomo e non per la sua auto-distruzione.

Probabilmente, quindi, gli algoritmi, e la tecnologia in generale, non sono la soluzione ad ogni problema umano, ma se utilizzati nel modo corretto, potranno rendere concrete le idee che danno forma al nostro futuro. 

Comments are closed.