“(In)sicurezza digitale” con Diletta Huyskes

Trascrizione

Joe Casini: Viviamo in un mondo sempre più interconnesso, dove i fenomeni locali diventano rapidamente globali e in cui le conoscenze si influenzano continuamente. Un mondo che ci sfida ad evolverci per restare protagonisti attivi e consapevoli in tutti i sistemi di cui facciamo parte. Io sono Joe Casini e questo è Mondo Complesso. Buonasera a tutti e tutte, benvenuti e benvenute a un’altra puntata di Mondo Complesso, sempre qui da Scomodo che ci ospita: vi chiedo di fare un grande applauso per Scomodo. Come già sapete, se avete visto la scorsa puntata, c’è una novità nel format per queste due puntate speciali: non sono da solo a condurre, ma con me c’è Gabriele Cruciata. Vi chiedo un grande applauso anche per Gabriele. Grazie Gabriele di essere ancora qui. Come sta andando questa esperienza in co-conduzione?

Gabriele Cruciata: Mi sono divertito molto. Il tema è un po’ particolare, ci veniva da fare battute prima, però…

Joe Casini: Diventano anche delicate.

Gabriele Cruciata: Però Gennaro è un ottimo personaggio.

Joe Casini: Se ti ci abitui, poi ne parliamo. La puntata di stasera è una a cui tengo veramente molto. Per spiegarvi il perché vi racconto un aneddoto un po’ da nerd, ma immagino che tra voi ce ne siano molti. Io ho un vizio: leggo abbastanza libri, e ogni volta che sottolineo qualcosa me la copio e me la salvo. Ho un database dove salvo tutte le frasi dei libri che mi piacciono, perché poi, quando scrivo o faccio ricerche — e ora con le intelligenze artificiali mi diverto in particolar modo — le riuso. L’ospite di stasera è l’autrice del libro che ho letto l’anno scorso e che in assoluto ho sottolineato di più. Tant’è che quando ci siamo sentiti le ho mandato la foto e lei ha detto: «Mamma, quanti segnalibri». Le ho detto: sì, perché ho segnato praticamente tutto. Quindi sarà una chiacchierata che mi godrò fino in fondo. Vi chiedo di fare un grande applauso per Diletta Huyskes.

Diletta Huyskes: Mi avete costruito una trama.

Joe Casini: Questa è la parte scenografica.

Diletta Huyskes: Possiamo fare che mi sposto io? Ecco, perfetto. Sei comodo? Ho Matteo qua davanti, così guardo lui e mi rilasso.

Joe Casini: Intanto, come stai? Ci siamo un po’ rincorsi per arrivare a questa puntata, ma sono contento e ci siamo. Tutto bene?

Diletta Huyskes: Bene, sì. Un po’ impegnata, ma bene.

Joe Casini: Vedo che sei particolarmente impegnata, con il dottorato e tante cose, e un libro bello pieno. Diletta, noi cominciamo e chiudiamo le puntate sempre allo stesso modo, da 68 puntate: apriamo con quella che chiamiamo la domanda semplice, non necessariamente facile, ma semplice, che ti dà la possibilità di tracciare la rotta della chiacchierata. La domanda che ti vorrei fare per cominciare è: cos’è la tecnologia?

Diletta Huyskes: Ah, vai stretta e specifica. Allora, la tecnologia, nella sua definizione semplice, la tradurrei come uno strumento che serve alle persone per fare qualcosa.

Joe Casini: Mi piace, perché nella definizione c’è già il concetto di intenzione: la tecnologia ha già dentro un elemento di design, io la creo perché c’è un’intenzione. È uno degli aspetti che nel libro sottolinei più volte: la tecnologia viene progettata. Noi a volte la vediamo in maniera riduttiva — il trapano è una cosa che gira e fa buchi — mentre tu sottolinei quanto la fase di progettazione incida su come escono le tecnologie e come vengono applicate. Racconti molto bene che spesso si parla di come le tecnologie influenzano la società, e molto meno di come le società influenzano le tecnologie. Quindi: come le società influenzano le tecnologie?

Diletta Huyskes: In tutti i modi possibili in cui una società opera. Ti faccio un esempio semplice a cui pensavo mentre parlavi. Una delle frasi più deterministiche che sentiamo da quando esiste l’IA generativa è «l’IA mi ruberà il lavoro», i grafici non lavoreranno più; come qualche anno fa, e ancora oggi, si dice «è colpa dell’algoritmo, l’algoritmo ha sbagliato». In questi giorni sto commentando, insieme ad altre persone online, una notizia che riguarda un femminicidio in Spagna, un caso in cui è implicato anche un software che valuta il rischio di recidiva nella violenza di genere: tutte le notizie clickbait titolano «l’algoritmo ha ucciso una donna». Questo è esattamente il tipo di determinismo, di narrativa che parla di tecnologia che influenza la società. Se pensiamo al primo esempio, «l’IA ci ruba il lavoro», il tipo di riflessione da fare è chiederci com’è possibile che l’IA ci rubi il lavoro: come ci siamo arrivati, al fatto che centinaia di persone non vengono più assunte o vengono licenziate perché è arrivata l’IA? Perché non è che l’IA abbia capacità senzienti o libero arbitrio.

Joe Casini: Infatti, già il fatto che la usiamo come soggetto della frase è strano.

Diletta Huyskes: Esatto.

Joe Casini: Come se fosse l’intelligenza artificiale a rubare il lavoro, e non le persone che usano quella tecnologia. Il tuo libro, «Tecnologia della rivoluzione», ha passaggi molto profondi e articolati, ma ha il grande pregio di essere molto leggibile. Una cosa che mi ha colpito è il passaggio sulla lavatrice. Nel luogo comune, quello della chiacchierata a cena, si dice: la lavatrice, la lavastoviglie, come hanno migliorato la vita delle donne.

Diletta Huyskes: Non so a che cene vai tu, di queste cose non si parla mai.

Joe Casini: Non lo dite mai, quando finisce la cena e bisogna caricare la lavastoviglie.

Diletta Huyskes: «Così siamo liberi di andare al lavoro», esatto.

Joe Casini: Questo passaggio nel libro lo racconti molto bene, è emblematico: la lavastoviglie ha ridotto il lavoro dentro le case, in particolare — e ne parleremo a lungo — per le donne.

Diletta Huyskes: Nel libro riprendo uno studio di Vanek, una delle studiose femministe che cito, e sono moltissime, che si sono occupate di studiare empiricamente le tecnologie, soprattutto quelle domestiche, ma anche quelle riproduttive e militari, chiedendosi cosa c’è dietro rispetto ai rapporti di genere. Lei aveva portato avanti questo studio con una serie di dati per mostrare come il luogo comune per eccellenza, già all’epoca, fosse: grazie alla tecnologia che entra nelle case, libereremo tempo.

Joe Casini: Non sono l’unico ad avere quel luogo comune, allora.

Diletta Huyskes: Oggi abbiamo lo stesso luogo comune con ChatGPT: quante cose possiamo fare in più, perché facciamo scrivere a lui le email. All’epoca c’erano le lavatrici, i beni di consumo in generale, che automatizzavano processi ancora totalmente manuali. Nel libro c’è questa bellissima foto, ripresa da archivi femministi, di una manifestazione con il cartello «supermeccanizzata, ma sempre affaticata»: un manifesto femminista usato in piazza, che descrive bene la condizione femminile dell’epoca, quando venivano inserite nelle case queste tecnologie non economiche, che promettevano una rivoluzione, come tante altre che racconto nel libro — in questo caso liberare tempo e spazio. In realtà Vanek, controintuitivamente, dice: non hanno liberato così tanto tempo, o almeno non diamolo per scontato, perché cambiano gli standard, in questo caso di pulizia. Se prima l’uomo di casa pretendeva che le camicie fossero lavate ogni tot, e si faceva un bucato al giorno perché il processo era lunghissimo, a quel punto lo standard si alza, e non si fa più un bucato al giorno, ma tre o quattro lavatrici.

Joe Casini: C’è sempre questa circolarità tra società e tecnologie. E, tornando al manifesto e a quello che dicevo all’inizio, uno dei problemi di fondo è che le tecnologie hanno un design, vengono sviluppate immaginando il modo in cui qualcuno le userà: ma chi è quel qualcuno? È un problema su cui spesso non ci soffermiamo.

Diletta Huyskes: Noi no, ma chi le progetta sì. Almeno con i beni di consumo era un tema strettamente commerciale: pensa a chi fa pubblicità — sto guardando Mad Men, colpevolmente in ritardo, ma lì noto molto questi temi, come si vende la tecnologia in base a chi la deve usare e a chi si pensa che la comprerà. Racconto tante storie nel libro; una è quella del microonde, il mio cavallo di battaglia, che ha esattamente una storia del genere: nel momento in cui viene fabbricato, cosa pensano i sales manager, come lo devono vendere e a chi. È una storia carina perché racconta un grande misunderstanding, anche dal punto di vista di genere.

Gabriele Cruciata: Qual è questo misunderstanding?

Diletta Huyskes: È una storia lunga, stavo provando a tagliarvela, ma ve la racconto, con questo spoiler. Il forno a microonde inizialmente venne progettato come strumento pensato per le donne: sempre nella scia di cui dicevo, si pensava fosse una buona idea automatizzare un pezzo della cottura, del compito di cucinare, ovviamente destinato alle donne come tutto il lavoro di cura. Addirittura c’erano donne che fungevano da advisor dentro una delle grandi aziende che costruiva i microonde negli anni Ottanta-Novanta. Due sociologhe femministe hanno studiato questo processo, e nel libro riprendo il loro studio etnografico: hanno seguito il microonde dal design fino a quando le consulenti dicevano «dovrebbe avere questa funzione piuttosto che quest’altra». Le donne, per una volta, fungevano da consulenti, e ovviamente c’erano uomini a costruirlo. Il misunderstanding sta nel fatto che, quando è stato venduto ed è arrivato nei negozi, è stato messo nelle corsie dell’high-tech, insieme a radio, stereo, casse, dispositivi pensati per gli uomini, da usare nel tempo libero. E hanno notato che non lo comprava nessuno. Chi lo vendeva si è detto: chi può avere bisogno di questo strumento? Le donne sanno già cucinare; forse chi ha bisogno di scaldare il cibo velocemente è chi non sa cucinare o non ha tempo, cioè gli uomini. Quindi c’è stata questa inversione, e non ha funzionato, nessuno lo comprava; poi l’hanno dovuto ripensare, rispostare, e l’hanno messo dove lo troviamo oggi, di fianco a lavatrici e frigoriferi.

Joe Casini: C’è sempre questo rapporto di adattamento reciproco, mi piace moltissimo, tra società, tecnologie e feedback.

Diletta Huyskes: È una cosa che noi non vediamo assolutamente: questo scambio di feedback, di negoziazioni, di ritrattazione dello stesso strumento.

Joe Casini: Mi piace moltissimo il fatto che si parte da un’intenzione. Sollevando un tema: pur essendoci una storia di moltissime inventrici, spesso non riconosciute, la maggioranza delle invenzioni, soprattutto in ambito industriale e commerciale, viene fatta da uomini che immaginano lo stereotipo di chi le userà. Da questo punto di vista, oggi secondo te siamo in una fase in cui c’è una maggiore diversità in questo processo — a monte si mettono più prospettive, a valle si ascolta di più per cogliere quei feedback — oppure c’è ancora questa visione deterministica? Perché su tecnologie molto potenti, e abbiamo già citato l’IA, di cui parleremo a lungo, la cosa inizia a diventare una questione non da poco.

Diletta Huyskes: Purtroppo lo scenario è ancora molto determinista. Non ci sono più tanti studi sulle tecnologie di consumo e su come quella progettazione viene gestita — una progettazione molto più facile da tracciare per gli hardware, per le tecnologie materiali, piuttosto che per quelle immateriali, di cui oggi mi occupo. Il libro parte proprio da quelle materiali per arrivare alle digitali, dove il processo di design è molto più evanescente ed è difficile tracciare responsabilità e intenzioni. Io propongo che questi vecchi studi sulle tecnologie materiali ci possano tornare utili soprattutto dal punto di vista metodologico. Perché a livello di dibattito pubblico abbiamo smesso di chiederci quali sono questi ruoli, come vengono distribuiti, chi decide. E abbiamo dati molto sconfortanti: questa diversità in chi progetta non c’è. Cresce dello 0,2% all’anno; durante la pandemia era tornata stagnante, poi ha ricominciato, ma siamo intorno al 20-25% di donne nel lavoro tecnologico in Europa, quindi tra chi costruisce l’IA e chi è in ruoli decisionali. La situazione non è cambiata significativamente, e il processo è lungo. Quello che temo è che stiamo sbagliando qualcosa, ma di questo magari parliamo dopo. Il punto è che la diversità andrebbe misurata su tantissimi assi diversi. Il tema interessante e un po’ sconfortante è che sono gli stessi temi che proponevano le femministe negli anni Ottanta: Haraway ci ha scritto un testo fondamentale, il «Manifesto Cyborg», che parla proprio di come ibridare tutte queste categorie binarie che noi, da Cartesio in poi, abbiamo adottato. Lei parlava, come tante altre, esattamente di quello che dicevi tu, Joe: com’è possibile che un uomo, con un certo posizionamento individuale e identitario, possa pensare di anticipare i bisogni e i desideri di qualcun altro? Se pensiamo a questa massa di persone tendenzialmente tutte uguali — non nel profondo, ma come caratteristiche sociali, come categorie, quelle che vengono usate su di noi quando si tratta di tecnologia —, non andiamo nel profondo dell’anima, rimaniamo sulla superficie, guardiamo queste categorie di chi progetta. Ed è lo scenario sconfortante, perché se il futuro viene plasmato da queste persone — e di questo stiamo parlando: costruire l’intelligenza artificiale, il quantum computing, significa progettare il futuro non di noi tre, ma di tutti — è come vivere nella testa, nel futuro di qualcun altro, un futuro che non rappresenta tutti e tutte.

Gabriele Cruciata: Ma questo perché succede? È il risultato di qualcos’altro, immagino, o è voluto dal…

Diletta Huyskes: Dal capitalismo. È il risultato di dinamiche strutturali che ci portiamo dietro da decenni, frutto del nostro sistema economico, del fatto che non abbiamo mai fatto rivoluzioni significative. Qui la tecnologia non c’entra: c’entrano l’economia, il lavoro, i diritti, il potere. La tecnologia ne risente, perché se è la società a costruirla, tutto questo entra in quello che progettiamo. In questi giorni, a Roma, ho incontrato Andrew Feenberg, un filosofo che cito molto, allievo della scuola di Francoforte, di Marcuse. Lui scriveva che il problema è che non siamo riusciti, e ancora non riusciamo, a immaginare traiettorie in cui inserire queste tecnologie che non siano quelle del progresso e dello sviluppo economico. Per noi la tecnologia è sviluppo economico, a meno che non andiamo negli ospedali, nei migliori centri di ricerca del mondo, dove vediamo tecnologie che servono davvero all’umanità.

Joe Casini: Però hanno il brevetto.

Diletta Huyskes: Hanno il brevetto, esatto. Come è successo con i vaccini: in un attimo si è creato quello che serviva. Ma in condizioni non emergenziali questo non succede. Quindi per noi lo sviluppo tecnologico è quello che una determinata azienda, in un determinato momento, decide che sia il progresso e l’innovazione.

Joe Casini: Parlando di logica capitalista, non si può non riflettere su chi sono i capitani d’industria che guidano queste aziende. Colpisce che non solo abbiano un profilo simile — spesso molto giovani, maschi, bianchi —, ma anche una visione di società molto chiara. A volte penso a Zuckerberg, che a seconda dei governi si orienta un po’ da una parte o dall’altra; altre volte a Musk, che va dritto come un treno. In ogni caso hanno un’idea. L’impatto della tecnologia sulla società è sempre stato un rapporto di reciprocità, ma oggi c’è un fattore determinante: la quantità di dati, il modo in cui stiamo digitalizzando tutte le nostre esperienze, la pervasività che questo controllo arriva ad avere, che cambia totalmente il ragionamento.

Diletta Huyskes: Certo, è il tema che ha appassionato me e tanti altri dal 2010, con i big data. Non ha appassionato solo me: anche aziende e pubbliche amministrazioni, che con questi big data hanno fatto cose terribili. La traiettoria che faccio nel libro può sembrare bizzarra — passare dai microonde alla statistica all’intelligenza artificiale…

Joe Casini: Però rende la lettura ancora più divertente, funziona molto.

Diletta Huyskes: Fa capire il flusso di pensieri che ho in testa, decisamente un po’ caotico. Ma il punto è proprio quello: dalla tecnologia, dall’idea di rendere oggettivo, razionalizzare, misurare il mondo, siamo passati, contemporaneamente all’avanzare della statistica — di cui nel libro traccio la storia infelice, la costruzione sociale, e cosa si è fatto di brutto con la classificazione, la numerazione, l’idea di trasformare le persone in dati e numeri —, arriviamo agli anni Dieci, quando si è iniziato a usare questa quantificazione per correlare qualsiasi cosa. Io mi sono sentita dire, da grandi decisori pubblici, in questo caso nei Paesi Bassi, che forse analizzando i dati comportamentali, identitari e anagrafici delle persone che richiedono strumenti di welfare, e vedendo che guidano un’automobile di una certa marca, da quel dato potremmo capire se frodano lo Stato. Cambridge Analytica, tutta quella cosa lì, la sappiamo benissimo. Il rischio è presente da tanti anni: tutto quello che abbiamo fatto col machine learning, quei sistemi di classificazione attribuiti all’intelligenza artificiale, ormai sono passati di moda, con l’IA generativa totalmente. Io mi batto perché si parli di intelligenza artificiale «antica» e classica, perché credo sia quella che fa più danni sul contesto e nel breve periodo. Ci sono danni che anche l’IA generativa può fare, ma la scala è diversa: lì si parla di creatività, di come può cambiare il nostro cervello, i cosiddetti rischi a lungo termine che piacciono tanto a Musk e a tutti quelli; poi però ci sono i rischi a breve termine, più impattanti, che riguardano ancora tutte quelle cose lì.

Gabriele Cruciata: Una cosa ti volevo chiedere: esistono studi, o almeno hai un’opinione, su quanto viene percepita oggi, dai costruttori e dagli ideatori della tecnologia, la responsabilità del proprio operato? Penso ai ragazzi di via Panisperna, per dire, sull’atomica; e penso oggi a un team in ufficio che ragiona su come migliorare le auto a guida autonoma, o ChatGPT. Quanto è presente la percezione della responsabilità, e di conseguenza quanto vengono incluse nei team figure diverse dagli ingegneri e dai programmatori, per esempio persone con un background di filosofia o di etica?

Diletta Huyskes: Pochissimo. L’esigenza di inventarmi il lavoro che faccio oggi è nata proprio da questo: dal rendermi conto che dentro le aziende e le pubbliche amministrazioni, dove si usa o si progetta l’intelligenza artificiale, queste persone non esistono. Ci sono alcuni contesti in cui esistono, o sono esistite, in seguito a cose molto problematiche. Di nuovo l’esempio dei Paesi Bassi, uno dei contesti che ho studiato da vicino in questi quattro anni: ha avuto una serie di scandali legati all’IA e a quell’uso di correlazioni con i big data.

Gabriele Cruciata: La profilazione razziale della polizia?

Diletta Huyskes: No, parlo di uno scandalo nel welfare che ha portato alle dimissioni in blocco del governo a inizio 2021, e che ha discriminato strutturalmente 25.000 famiglie con background migratorio, perché veniva usato un sistema di classificazione del rischio che le identificava come più a rischio, pur non avendo fatto niente, sulla base di dati storici. Ho intervistato persone che lavoravano su quel software, data scientist all’autorità fiscale olandese, che mi hanno detto: «qui ci sentivamo veramente liberi di fare qualsiasi cosa». Me l’ha raccontato una sorta di pentito della data science usata a quegli scopi.

Joe Casini: Questo è un aspetto centrale, il tema della regolamentazione. Se ne è parlato poco, oggi ancora meno, ma in Europa è stato approvato l’AI Act, un po’ come all’epoca il GDPR: siamo l’unico continente che prova a regolamentare queste cose, il che è già un passo avanti. Però con quali risultati?

Diletta Huyskes: I risultati… altre persone al posto mio ti potrebbero dire cose diverse, perché è un regolamento molto divisivo. Da un lato ci sono gli imprenditori, molto contrari a questo tipo di impostazione; dall’altro le persone più vicine alla protezione dei diritti fondamentali, molto scontente del regolamento. È abbastanza paradossale: da un lato c’è chi dice, come sappiamo, «questo ferma l’innovazione, non possiamo fermare l’innovazione» — la mano invisibile —, una retorica che ha tanto peso, e ce l’ha nella misura in cui le più grandi aziende tecnologiche del mondo hanno fatto un’enorme lobby su quel regolamento e sono riuscite a sgonfiarlo, ottenendo molte libertà. Questa retorica è permeante: ogni conversazione che faccio con persone che stanno dall’altra parte, con cui mi confronto per lavoro, è segnata dalla paura, «non potrò più fare intelligenza artificiale, l’Europa sta sbagliando, guarda la Cina, guarda gli Stati Uniti, noi blocchiamo». Io sto iniziando ad applicarlo, questo regolamento, con le persone con cui lavoro, e vi assicuro che non blocca niente. Tanti storici e sociologi della tecnologia che scrivevano negli anni Settanta-Ottanta raccontavano come ogni tecnologia «buona» che abbiamo oggi sia stata frutto di negoziazioni — come dicevamo del microonde: per arrivare a qualcosa di soddisfacente dal punto di vista umano e sociale devono esserci queste fasi che mettono in discussione qualcosa, che spingono i privati a dare forme diverse alle tecnologie, che poi si stabilizzano. È quello che è successo con le auto elettriche, con qualsiasi cosa.

Gabriele Cruciata: Un caso eclatante è la clonazione: noi, nel 2025, a un certo punto non sappiamo clonare. Credo che non sappiamo clonare.

Diletta Huyskes: Lo sappiamo fare.

Joe Casini: È un caso eclatante in cui la tecnologia si può fermare: c’è, ma non per questo la applichiamo. O, più che fermare…

Diletta Huyskes: Le dai una forma.

Joe Casini: Parlavamo delle automobili: l’automobile è stata inventata in un contesto totalmente deregolamentato, ci abbiamo messo parecchi anni, ma alla fine non è che non le usiamo…

Gabriele Cruciata: E non è che le aziende non fanno profitto vendendole. Però c’è l’ABS, sono diventate obbligatorie le cinture di sicurezza. Ti volevo chiedere una cosa: tu prima parlavi della mano invisibile, smontando il concetto. Però, se io da essere umano conosco le imbarcazioni e il sistema per far navigare un oggetto, e poi un altro mi fa scoprire il motore a scoppio, non è insito nella natura umana unire due elementi conosciuti per crearne uno nuovo, la barca a motore? E allora, se io conosco il jet militare e poi i sistemi di riconoscimento facciale, non è umanamente inevitabile che qualcuno dica «bello, li metto insieme così bombardo meglio»?

Diletta Huyskes: Certo che lo è, è assolutamente naturale, umano, fa parte del progresso, o di quello che chiamiamo tale. Quindi non è tanto una questione di mano invisibile, perché lì c’è qualcuno che sceglie di fare quell’accoppiata. È quello che riprendo all’inizio del libro: c’era uno scrittore che parlava del motore a vapore e della barca — ce li avevamo tutti e due, nasce la barca a motore. E lo diceva anche Marx: in base al tipo di mulino nasce un certo tipo di società. Lì nasce un po’ il discorso determinista: non perché l’impostazione sia sbagliata, ma perché nasconde tutte le scelte che ci possono essere dietro. Certo che lo fai, il drone con riconoscimento facciale, però magari non lo usi per bombardare Gaza…

Joe Casini: Ma per consegnare farmaci.

Diletta Huyskes: Esatto. Lì sta un tema di potere, di potere di legiferare, di chi decide cosa si fa. Non voglio essere ottimista, perché lo stiamo vedendo in tempo reale, durante un genocidio, come viene usata la tecnologia, e soprattutto quella militare, che tra l’altro esce totalmente dallo scopo di questo regolamento: è un affare degli Stati, quindi ogni paese decide come gestirsi la sicurezza. Ed è un tema molto complicato.

Joe Casini: In questo contesto di escalation individualista, in cui si è esasperata la logica che ci sarà uno che emergerà su tutti gli altri, come se i nostri destini non fossero collegati, sull’ambito della tecnologia è ancora più esasperato, perché vediamo questa corsa. L’impressione è che queste tecnologie vengano approcciate come una tecnologia apertamente militare: la logica è quella del numero di testate nucleari, avere più testate dell’avversario, e questo riduce moltissimo gli spazi di dialogo. Leggevo che qualche tempo fa la Cina aveva proposto un tavolo per delle moratorie, che Trump ha rifiutato. Stiamo andando verso la chiusura, il tempo vola, ma ti volevo fare ancora una domanda, visto che questa puntata rientra nelle due speciali che stiamo facendo con Gabriele sul tema della sicurezza. Abbiamo parlato molto di controllo attraverso la tecnologia; in termini di sicurezza, una delle cose a cui abbiamo assistito — penso all’11 settembre — è che nei contesti di emergenza si va in deregolamentazione, e in nome della sicurezza la tecnologia viene utilizzata. Come vedi la situazione, dato che c’è tutta una serie di tecnologie sempre più sofisticate, e andare in deregolamentazione può spostare parecchio la traiettoria evolutiva della società?

Diletta Huyskes: È un tema molto complesso, perché con la scusa dell’antiterrorismo, in questi anni, si sono sviluppate, adottate e incentivate tecnologie potenzialmente molto rischiose per la società, e sicuramente utili a un certo numero di casi, alla prevenzione di un certo numero di reati e atti terroristici. Penso al riconoscimento facciale diffuso, massivo. La domanda da porsi, anche puramente etica e molto politica, è chiedersi quanto vale la pena sorvegliare continuamente un certo spazio pubblico per anticipare qualcosa di brutto che può succedere. Questo è vero negli aeroporti, nelle piazze; l’Europa su questo ha lavorato, nel senso che la società civile e tante organizzazioni — io ho fatto parte di queste richieste — hanno chiesto negli anni di vietare il riconoscimento facciale negli spazi pubblici. Il risultato non è soddisfacente: queste moratorie esistono, ce n’è stata una anche in Italia per un anno e mezzo, non portata avanti da questo governo, quindi in questo momento in Italia non è vietato. Per fortuna abbiamo alcune autorità che ci aiutano a tenerlo a bada. Ma il rischio esiste: in questo momento le forze di polizia in Europa, per motivi sufficientemente convincenti per loro, possono utilizzare questo tipo di tecnologie anche in assenza del parere di un tribunale, come una cosa emergenziale e critica. Però chi definisce questi contesti critici ed emergenziali non lo sa nessuno.

Gabriele Cruciata: Vuoi farmi fare un attimo l’avvocato del diavolo su questo punto? In Italia, parlando di sicurezza, se guardiamo lo storico possiamo dire che rispetto a cinquant’anni fa abbiamo una società cosiddetta più sicura: ci sono meno omicidi, la quasi totalità dei reati è diminuita, e anche i tempi delle indagini per trovare il colpevole si sono accorciati. Spesso si dice che succede perché c’è una tecnologia pervasiva ed è più facile fare le indagini oggi: se sono accusato di un omicidio, si può vedere grazie al telefono dove stavo, quali celle ho usato, le conversazioni su WhatsApp, tutte le telecamere. Questo è un aspetto positivo, o meglio: questo aspetto positivo è bilanciato rispetto agli elementi negativi, come la violazione della privacy? Lo trovi un equilibrio accettabile, oppure pensi che non sia sufficiente?

Diletta Huyskes: Hai centrato il punto, perché il tema è sempre il bilanciamento: capire quale diritto si può sacrificare alla luce di un altro. La privacy è sicuramente uno di quelli messi sul piatto della bilancia.

Gabriele Cruciata: Prendi il caso Turetta: al di là dell’aspetto mediatico, abbiamo risolto un caso importante in un tempo tutto sommato ridotto, nonostante ci fosse un fuggitivo che aveva superato le frontiere; trent’anni fa sarebbe stato difficilissimo, oggi sappiamo tutto.

Diletta Huyskes: Ma chissà quanti altri casi come questi. Secondo me il tema del bilanciamento sta nel fatto che, in presenza di reati o indagini sufficientemente gravi e preoccupanti, questa cosa è assolutamente bilanciata. Però dipende dai dispositivi tecnologici che metti in atto e dalle applicazioni che controlli: l’idea che gli Stati si alleino con Meta per garantirsi l’accesso costante ai dati degli utenti, perché se un giorno quella persona commette un reato io devo poter accedere, no: questo non è bilanciamento, è sorveglianza di massa. È anche un argomento abbastanza futile, perché nel momento in cui usiamo Google Maps tutti i giorni, sappiamo già che chiunque può vedere dove andiamo e dove siamo andati; se prendi il telefono, vede lo storico dei nostri movimenti.

Gabriele Cruciata: E l’assicurazione ti può chiedere più o meno soldi a seconda di quanto guidi veloce, peraltro.

Diletta Huyskes: Esatto, quindi è abbastanza irrilevante. Si tratta solo di capire a che livello di pervasività siamo disposti a stare, perché la pervasività c’è e ci sguazziamo tutti, tutti i giorni. Il punto non è «io non ho niente da nascondere»: tutti stiamo dando, vendendo i nostri dati. Il punto è capire quanto accesso ex ante e preventivo siamo disposti a dare, cosa su cui serve una consapevolezza che non abbiamo.

Joe Casini: Una formula esatta non esiste, è un bilanciamento che si fa a seconda delle circostanze, e le circostanze cambiano ogni istante. Però è importante il metodo. Prima hai usato la parola «etica», un termine che si era un po’ dimenticato e di cui ora si torna a parlare un po’ di più: il punto è capire che c’è bisogno di consapevolezza, di vedere quanto sono pervasive e articolate le decisioni che prendiamo, e trovare questo campo comune. Poi le decisioni si prendono insieme, e a seconda dei casi alcune piaceranno di più e altre di meno; ma quantomeno c’è una capacità di dialogo, che è quella che facciamo fatica a riconquistare. Diletta, siamo arrivati al momento conclusivo, il tempo è volato. Ti faccio la domanda di chiusura del podcast, ma non prima di averti estorto la promessa che ci rivedremo presto.

Diletta Huyskes: Assolutamente sì.

Joe Casini: La domanda con cui concludiamo, ormai da quasi quattro anni, è la domanda tra gli ospiti. Ti racconterò tre ospiti delle puntate precedenti, ognuno con un profilo diverso; non è detto che il profilo abbia a che fare con la domanda che hanno lasciato. Scegliendone uno, a sorpresa, ti sceglierai una domanda a cui rispondere; poi ti chiederò, se vorrai, di lasciarne una tu. I tre ospiti che ti propongo sono: Adrian Fartade, che si occupa di divulgazione, in particolare di esplorazione dello spazio, con cui abbiamo parlato della nuova corsa allo spazio; Silvia Semenzin, che conosci bene, che si occupa di violenza di genere, in particolare in contesti digitali; e Mafe de Baggis, che si occupa di digitale, con cui abbiamo parlato di storytelling e di come i nuovi media hanno cambiato il modo di raccontare le storie. Ripeto, non è detto che la domanda abbia a che fare con questa sintesi. Quale ti incuriosisce?

Diletta Huyskes: Vado con Adrian, sperando che sia qualcosa sulle stelle.

Joe Casini: La domanda di Adrian è bellissima, la propongo spesso perché la trovo geniale. Non ha a che fare con le stelle, ma con gli alieni: se gli alieni venissero sul nostro pianeta e tu fossi la prima persona incaricata di parlarci, cosa vorresti comunicare loro e come lo faresti? Da qui in poi è un problema tuo.

Diletta Huyskes: Datemi un attimo per pensarci. Guardatevi intanto il salario di cittadinanza, ragazzi — anche se non c’è più il reddito di cittadinanza. No, cercherei prima di capire che lingua parlano, e se posso comunicare a parole. Se non posso, penso che farei un gesto: se sono buoni, li abbraccerei.

Joe Casini: Quindi li abbracceresti. È una domanda difficilissima, perché qualunque cosa rispondi non sai come va a finire nella loro cultura.

Diletta Huyskes: Se non parlano la mia lingua, cosa molto probabile, e se sono buoni e non troppo spaventosi, li abbraccerei, perché penso che sarei emozionata.

Joe Casini: La domanda di Adrian è terribile, infatti la uso spesso. Ora è il tuo turno, se vuoi vendicarti: puoi lasciare una domanda altrettanto difficile per gli ospiti delle prossime puntate.

Diletta Huyskes: La mia non è difficile, ma è una domanda che ci si pone molto poco e che diamo per scontata. Quello che sarei curiosa di sapere è: di che tecnologia avrebbero bisogno?

Joe Casini: Bella, perché ogni volta che viene lasciata una domanda, la prima cosa che faccio…

Diletta Huyskes: Di cosa avresti bisogno?

Joe Casini: La prima tecnologia di cui avrei bisogno… bella domanda, bisogna pensarci. Non lo so. Forse qualcosa che mi aiuti a usare meno tecnologia, una tecnologia che mi aiuti a usare meno tecnologia. Ho un problema, soprattutto ora con le IA generative: le uso tanto per lavoro e per la creatività, e ogni volta che ho la possibilità di fare un detox è una cosa che noto. Quindi forse qualcosa che mi aiuti in quello.

Diletta Huyskes: Un robot che ti porta fuori di casa, necessariamente.

Joe Casini: Sì. Di solito lo fa la mia ragazza; ora scopre di essere in competizione con un robot. L’idea è avere consapevolezza di quanta tecnologia sto utilizzando. Mi ricordo, tanti anni fa, c’era un gioco immersivo online che andava molto, World of Warcraft: quando introdussero un orologio che ti diceva che ora fosse nel mondo reale, la cosa fece impazzire le persone, «e ora che ci devo fare con questa informazione?». Tu forse, con un dato del genere, potresti decidere di staccare, e questo ti aiuta…

Diletta Huyskes: Ti aiuta.

Joe Casini: …ad avere una vita anche fuori da questo mondo virtuale. Forse quello è un tema, rendersene conto.

Diletta Huyskes: Sui social.

Joe Casini: Sui social, esatto, forse qualcosa di design che ci aiuti a sganciarci un po’.

Diletta Huyskes: Vorrei un grosso automatizzatore di task costanti, capace di liberarmi il tempo per farmi riposare. Un grande automatizzatore, non che migliori la mia efficienza, ma che al contrario faccia esattamente quello che faccio io.

Joe Casini: Con gli agenti ora ti divertirai.

Diletta Huyskes: Che mi facciano essere ogni giorno in vacanza, capito?

Joe Casini: Sono contento che abbiamo finito la puntata «buggando» il format: è la prima volta che la domanda viene ritorta contro di noi. Su questa nuova esperienza ti chiedo di fare un grandissimo abbraccio per Diletta Huyskes, e di continuare l’applauso per Gabriele Cruciata, che in queste due puntate si è prestato all’esperimento; ovviamente a Scomodo, che come sempre ci ha ospitato, e a voi che siete stati qui. Buonanotte. Viviamo in un mondo sempre più interconnesso, dove i fenomeni locali diventano rapidamente globali e in cui le conoscenze si influenzano continuamente. Un mondo che ci sfida ad evolverci per restare protagonisti attivi e consapevoli in tutti i sistemi di cui facciamo parte. Io sono Joe Casini e questo è Mondo Complesso.