La tecnica non viene mai da sola

Tra i diversi libri che ho letto quest’estate, Tecnica di Carlo Galli è uno di quelli che hanno continuato a lavorarmi dentro anche dopo l’ultima pagina. Pensavo di trovarci soprattutto macchine, algoritmi, intelligenza artificiale e il rapporto sempre più complicato tra esseri umani e tecnologia. Ho trovato, invece, un libro sul potere. Ed è per questo che mi fa piacere parlarne qui.

La tecnica, sostiene Galli, non è mai soltanto uno strumento. Non è un insieme di oggetti neutrali che possono essere utilizzati bene o male a seconda delle intenzioni di chi li adopera. Dentro ogni tecnica ci sono già un sapere, una volontà, una certa idea di utilità e una distribuzione del potere.

Una tecnica nasce per fare qualcosa. Ma qualcuno ha deciso che proprio quella cosa meritasse di essere fatta. Risponde a un bisogno, ma qualcuno ha stabilito quale bisogno dovesse venire prima degli altri. Aumenta le nostre possibilità, ma non necessariamente quelle di tutti. Ci libera da alcuni vincoli e, nello stesso tempo, può crearne di nuovi.

È questa ambiguità ad attraversare tutto il libro.

La tecnica è molto più antica delle macchine

La tecnica ci accompagna da quando abbiamo cominciato a modificare ciò che trovavamo in natura. Una pietra scheggiata, un aratro, una macchina a vapore, una catena di montaggio e un algoritmo appartengono a epoche e mondi lontanissimi. Eppure, rispondono alla stessa aspirazione: superare un limite attraverso un sapere capace di produrre effetti.

La storia umana è inseparabile dalla tecnica perché l’essere umano non si limita ad adattarsi al mondo. Cerca continuamente di trasformarlo.

Non esiste, dunque, un’umanità originaria e incontaminata alla quale potremmo tornare semplicemente liberandoci delle macchine. La tecnica non è arrivata dopo, come una deviazione o una malattia. È uno dei modi fondamentali attraverso i quali costruiamo la nostra presenza nel mondo.

Proprio perché è profondamente umana, però, porta con sé tutte le nostre contraddizioni.

Può liberarci dalla fatica e moltiplicare le nostre capacità. Può curare malattie, accorciare le distanze e rendere accessibili conoscenze un tempo riservate a pochissimi. Ma può anche sorvegliare, disciplinare, escludere, distruggere e concentrare un potere enorme nelle mani di chi controlla strumenti e infrastrutture.

Non è mai soltanto liberazione. Non è mai soltanto dominio.

Tra entusiasmo e paura

Uno dei meriti di Tecnica di Carlo Galli è quello di sottrarsi alle due reazioni più comuni davanti all’innovazione: la tecnolatria e la tecnofobia.

La prima considera ogni innovazione un progresso e ogni progresso inevitabile. Se una cosa può essere realizzata, prima o poi lo sarà. Se è nuova, deve necessariamente essere migliore. Se aumenta l’efficienza, non resta che adottarla.

È un ragionamento che conosciamo bene. Lo sentiamo ogni volta che una nuova tecnologia viene presentata come qualcosa a cui non possiamo che adeguarci. Non importa se sia davvero utile, a chi serva o quali conseguenze produca: è arrivata, dunque bisogna usarla.

La tecnofobia cade nell’eccesso opposto. Vede nella tecnica una forza disumana ormai sfuggita al nostro controllo, dalla quale dovremmo difenderci recuperando una presunta autenticità perduta.

Galli rifiuta entrambe le semplificazioni. La tecnica non ci salverà, ma non è neppure una malattia dalla quale possiamo guarire. È il nostro fare orientato verso uno scopo e un’utilità concreta. Non basta, quindi, condannarla o celebrarla. Dobbiamo comprenderla, criticarla e provare a governarla.

Il difficile viene subito dopo: ricordarsi che dietro ogni soluzione tecnica esiste una scelta.

Efficienti nel fare che cosa?

Di fronte a un problema complesso, la soluzione tecnica appare spesso come la più razionale, rapida e indiscutibile. I numeri, le procedure e gli algoritmi sembrano sottrarre le decisioni al conflitto e alle opinioni. La tecnica si presenta come oggettiva, mentre la politica appare lenta, incerta e inefficiente.

Ma anche il criterio di efficienza richiede una domanda molto semplice: efficienti nel fare che cosa?

Possiamo rendere più rapido un processo ingiusto, più precisa una forma di sorveglianza, più redditizio un sistema che produce disuguaglianze. Possiamo ottimizzare perfettamente i mezzi senza aver mai discusso seriamente i fini.

È una cosa che tendiamo a dimenticare. Se un sistema funziona bene, finiamo per considerarlo automaticamente buono. Ma funzionare bene significa soltanto raggiungere con efficacia un obiettivo. Non ci dice nulla sulla qualità di quell’obiettivo.

La tecnica, quindi, non elimina la politica. Molto spesso la nasconde.

Presenta come necessario ciò che è stato scelto, come naturale ciò che è stato costruito e come inevitabile ciò che risponde a determinati interessi. Le decisioni non scompaiono: diventano semplicemente meno visibili.

La semplicità ha un prezzo

Questo aspetto mi sembra particolarmente importante oggi. Viviamo circondati da sistemi dei quali conosciamo sempre meno il funzionamento. Utilizziamo dispositivi che non possiamo riparare, piattaforme delle quali ignoriamo i criteri e algoritmi capaci di orientare ciò che vediamo, acquistiamo e, almeno in parte, pensiamo.

In compenso, tutto deve apparire semplicissimo. Basta premere, scorrere, accettare.

Quanto più la tecnica diventa complessa, tanto più la nostra esperienza deve diventare facile. È una promessa seducente: non abbiamo bisogno di sapere che cosa accade dietro lo schermo, purché il servizio funzioni.

Ma questa facilità ha un prezzo. Ci abituiamo a utilizzare sistemi che non comprendiamo e sui quali non abbiamo quasi alcun controllo.

Questo non significa necessariamente che le macchine abbiano preso il potere. Significa piuttosto che il potere di chi le progetta, le possiede e ne stabilisce le regole può esercitarsi attraverso di esse senza apparire direttamente.

È una distinzione importante. Dire che “la tecnologia ci impone” un determinato comportamento rischia di trasformarla in un soggetto autonomo e, nello stesso tempo, di assolvere chi compie le scelte. Dietro una piattaforma, un sistema automatico o un modello di intelligenza artificiale continuano a esserci imprese, istituzioni, interessi economici, obiettivi e rapporti di forza.

La tecnica non vuole nulla. Sono gli esseri umani a volere attraverso di essa.

L’intelligenza artificiale non decide da sola

L’ultima parte del libro è dedicata all’intelligenza artificiale, forse il luogo nel quale questa confusione appare oggi con maggiore evidenza.

Parliamo delle macchine come se pensassero, imparassero, decidessero e creassero. Attribuiamo loro intenzioni e capacità umane perché questo è il linguaggio più immediato che abbiamo per descriverle.

Nel frattempo, però, rischiamo di trascurare le decisioni che vengono prese prima che la macchina entri in funzione: quali dati utilizzare, quali obiettivi assegnarle, quali attività automatizzare, quali errori tollerare e quali conseguenze considerare accettabili.

La vera questione non è stabilire se l’intelligenza artificiale sia buona o cattiva. Posta così, la domanda serve a poco. Bisogna piuttosto chiedersi chi la costruisca, per raggiungere quali scopi, secondo quali criteri e con quali possibilità di controllo.

Anche in questo caso, l’efficienza non può sostituire il giudizio.

Una macchina può individuare una correlazione, calcolare una probabilità e suggerire la soluzione statisticamente più efficace. Ma non può stabilire autonomamente che cosa una società debba considerare giusto, desiderabile o degno di essere perseguito.

Può indicarci il mezzo più efficace. Non può sollevarci dalla responsabilità di scegliere il fine.

La tecnica poteva andare altrove

È questo, secondo me, il punto politico più importante del libro.

La tecnica tende a presentarsi come un processo inevitabile. Avanza, accelera, trasforma il mondo e ci chiede continuamente di adattarci. Ogni nuova applicazione sembra preparare quella successiva, in una corsa della quale nessuno pare avere deciso né la direzione né il traguardo.

Ma ciò che chiamiamo progresso tecnico non è una forza naturale. È il risultato di investimenti, priorità, interessi e decisioni. Avrebbe potuto seguire altre direzioni e può ancora essere indirizzato diversamente.

Riconoscerlo non significa illudersi che sia facile controllare sistemi diventati enormi e interdipendenti. Significa, più modestamente ma anche più concretamente, rifiutare l’idea che non esistano alternative e che alla società non resti altro compito che adeguarsi.

Il libro di Galli non offre una soluzione tranquillizzante. Fa qualcosa di più utile: restituisce alla tecnica la sua storia e, con essa, la possibilità della critica.

Ci ricorda che non tutto ciò che funziona è necessariamente giusto. Che ogni innovazione distribuisce possibilità e rischi, vantaggi e costi. E che questa distribuzione non è mai puramente tecnica.

Perché parlarne su 100watt

È anche il motivo per cui questo libro trova posto in 100watt.

L’energia e la tecnica condividono la stessa promessa: aumentare la potenza disponibile, allargare ciò che possiamo fare, sottrarci ai limiti. Ma l’aumento della potenza non coincide automaticamente con l’aumento della libertà. Dipende da chi la controlla, da come viene distribuita e dagli scopi verso i quali viene indirizzata.

Una nuova tecnologia può aumentare enormemente le nostre possibilità e, nello stesso tempo, ridurre la nostra capacità di scelta. Può liberarci da un vincolo immediato e crearne uno meno visibile. Può risolvere un problema per qualcuno e trasferirne i costi altrove, su altre persone, altri territori o altre generazioni.

La tecnica non viene mai da sola. Porta con sé materie, energia, infrastrutture, organizzazioni, interessi e visioni del mondo.

Quando ho chiuso il libro, mi è rimasta soprattutto una convinzione: il contrario della tecnica non è l’umanità.

La tecnica è umana anche quando produce effetti disumani. È fatta dei nostri bisogni e delle nostre paure, della nostra intelligenza e della nostra volontà di potenza, delle disuguaglianze e dei conflitti delle società nelle quali nasce. Per questo non possiamo delegarle il futuro.

La domanda decisiva non è fin dove potrà arrivare la tecnica. È chi deciderà dove farla andare.