Tutto sotto controllo (dei software)

Nel 2020 un gruppo di scienziati e scienziate si è trovato davanti a una decisione assurda: cambiare i nomi di alcuni geni del genoma umano.

Non perché fossero sbagliati, offensivi o scientificamente obsoleti, ma perché Excel continuava a correggerli automaticamente come se fossero date. Così il gene MARCH1 diventava 1-Mar e SEPT2 si trasformava in 2-Sep, mandando in crisi analisi, banche dati e pubblicazioni scientifiche.

Su 3.597 articoli analizzati, uno su cinque conteneva errori dovuti proprio a queste trasformazioni automatiche. La soluzione? Invece di cambiare il software, hanno cambiato il genoma: MARCH1 è diventato MARCHF1, SEPT1 è diventato SEPTIN1 e così via.

Quando ho letto questa storia, non sapevo se ridere o preoccuparmi.

Poi ho deciso di fare un passo in più: capire quanti altri modi ha il software di modificare la nostra vita quotidiana.

Quando parliamo di software, pensiamo spesso a qualcosa che “serve a fare cose”: inviare messaggi, ordinare cibo, modificare una foto, prenotare un volo. Una tecnologia invisibile, silenziosa, funzionale. Ma non è sempre stato così.

Negli anni ’80, il software era per pochi: monolitico, installato su un unico computer. Uno strumento statico, prevedibile.

Poi, negli anni ’90, sono arrivati i sistemi distribuiti: il software comincia a vivere su più macchine , la rete entra nelle imprese e la complessità cresce. Con Internet, a fine anni ’90, tutto cambia di nuovo: i sistemi diventano “always on”, non più solo attivi, ma sempre accessibili.

Negli anni 2000 la connessione si dà per scontata e inizia l’era del software come servizio: il software non è più “una cosa che compri”, ma qualcosa che usi, che si aggiorna da solo, che gira nel cloud, che si adatta.

Oggi, nell’epoca dei microservizi, dell’intelligenza artificiale e dell’Internet of Things, il software è ovunque. È nelle macchine, nei frigoriferi, nei semafori, negli assistenti vocali. Ma soprattutto è nelle decisioni: ci suggerisce cosa guardare, chi seguire, cosa comprare, come arrivarci.

Come ha detto in un’intervista James Chin Moody, del World Economic Forum, Internet, e con lui il software, si è avvicinato progressivamente all’esperienza umana: prima era nei nostri palazzi, poi sulle nostre scrivanie, poi nelle tasche, adesso sugli orologi, e presto sotto la pelle. E più si avvicina al nostro corpo, più rischia di superare i nostri confini.

Questa vicinanza non è priva di conseguenze. Un anno fa, un semplice aggiornamento difettoso di CrowdStrike, un software usato per la cybersicurezza da milioni di organizzazioni, ha causato il più grande blackout digitale della storia. Una singola riga di codice ha mandato in crash milioni di computer con Windows, bloccando ospedali, aeroporti, giornali, uffici pubblici. Non per un attacco, non per una guerra: per un errore.

Ma l’incidente ha mostrato anche qualcosa di più: i nodi geopolitici dei software. A subire maggiormente l’interruzione sono stati i Paesi che dipendono da infrastrutture occidentali. Invece, Paesi come la Cina, che hanno costruito sistemi più isolati, con infrastrutture tecnologiche domestiche, sono stati quasi del tutto risparmiati. La lezione è chiara: il software non è solo una questione tecnica. È una questione strategica. Le nostre dipendenze digitali sono anche dipendenze politiche.

E questo ci riporta al punto: i software non sono neutri. Quando una riga di codice può determinare se un ospedale funziona o no, o se un gene può essere pubblicato in un articolo scientifico, allora forse non stiamo solo parlando di “strumenti”. Stiamo parlando di ambienti. Di architetture di possibilità. Di ciò che ci è concesso immaginare, decidere, fare.

Il blackout globale causato da un aggiornamento software difettoso è stato spettacolare, nel senso più letterale del termine: un evento improvviso, evidente, da prima pagina. Ma se davvero vogliamo capire quanto il software stia modificando le nostre vite, dovremmo cominciare da qualcosa di molto meno eclatante.

Come la scelta, all’apparenza insignificante, di un programmatore che nel configurare Microsoft Word lasciò il salvataggio automatico disattivato. Nessun grande complotto, nessuna malizia. Solo un’impostazione predefinita. Ma quella scelta, o meglio, quella non-scelta, ha determinato per anni il comportamento inconsapevole di milioni di utenti. E non è un caso isolato.

Nel mondo del software, le impostazioni di default sono tutto. Cosa succede quando clicchi su un link? Quale motore di ricerca usi? Quanto lasci di mancia quando paghi col POS? In teoria, potresti cambiare tutte queste impostazioni. In pratica, quasi nessuno lo fa. I ricercatori di Microsoft hanno scoperto che meno del 5% degli utenti modifica le impostazioni dei programmi.

Perché? Perché cambiare richiede attenzione, tempo, fiducia. E, diciamocelo, perché siamo pigri e pigre. Ma questa pigrizia, che è perfettamente umana, è diventata l’asso nella manica di quello che definirei il “capitalismo computazionale ”. Google paga Apple miliardi per restare il motore di ricerca predefinito sugli iPhone. Negli Stati Uniti, i taxi hanno alzato la media delle mance semplicemente mettendo come default il 20% del totale della corsa sul POS. Le notifiche sono sempre “on” per un motivo. È lì che si vince.

E questo vale anche, e soprattutto, per le cose che ci sembrano “naturali”. Pensare che la giornata inizi controllando le notifiche. Che un sito si carichi in un certo modo. Che un’app funzioni così e non cosà. Sono tutte decisioni prese da qualcun altro, per conto nostro. E più ci abituiamo a questi automatismi, più difficile diventa disinnescarli.

Non è il software in sé a essere un problema. Il vero rischio è che, mentre ci fa risparmiare fatica e ci semplifica la vita, ci disabitui a scegliere. Ci anestetizzi al cambiamento. E se la tecnologia è il nuovo ambiente in cui viviamo, allora ogni default è una regola dell’ambiente. Ogni “impostazione iniziale” è una cornice invisibile che determina cosa ci sembra possibile o addirittura pensabile.

Per questo, nei prossimi mesi, ti invito a fare un piccolo esercizio:nota le impostazioni di defaul t. Chiediti perché una cosa succede automaticamente e chi l’ha deciso.

Cambia un’impostazione, anche solo per vedere cosa succede. Perché imparare a smontare questi automatismi è il primo passo per recuperare un minimo di consapevolezza. E, forse, anche un po’ di libertà.

La newsletter va in vacanza fino a settembre. Ma se nel frattempo ti viene in mente un altro esempio in cui il software ha cambiato silenziosamente il tuo modo di vivere o lavorare, un piccolo gesto, un’abitudine, rispondi a questa mail. Sarà bello ripartire da lì.

A presto!