Alan Mislove è professore di informatica alla Northeastern University (USA) e studia da anni come funzionano gli algoritmi che regolano la nostra vita: dai prezzi dei voli alle pubblicità o alla concessione di crediti. La sua esperienza lo ha portato a lavorare alla Casa Bianca per un anno e mezzo per contribuire a creare una nuova legislazione in merito. Lì ha osservato che tutti i dipartimenti governativi volevano scoprire come l’intelligenza artificiale li avrebbe influenzati. Mislove, 44 anni e nata a New Orleans (Usa), ha collaborato anche all’ordine esecutivo di Biden sull’intelligenza artificiale, ora in pericolo con il nuovo presidente Trump. È appena passato da Madrid per parlare all’IMC (Internet Measurement Conference), una delle più grandi conferenze su reti, traffico e sicurezza, organizzata quest’anno da IMDEA Networks e dall’Università Carlos III.
Chiedere. Può un algoritmo essere così importante da influenzare il futuro della democrazia?
Risposta. Sì, certo che può essere fondamentale. Ci sono molte persone che non si informano attraverso i media tradizionali. Piattaforme come X o TikTok sono, in molti casi, il modo in cui le persone accedono alle informazioni e, con così tanti contenuti disponibili, hanno bisogno di algoritmi per decidere cosa vedere. In politica è fondamentale ascoltare entrambe le parti per capire quali sono le loro argomentazioni, ma questo non è ciò che di solito fanno gli algoritmi. Sono ottimizzati per l’interazione, quindi trascorri più tempo sulla piattaforma. Il modo migliore per farlo è mostrarti più contenuti che ti interessano piuttosto che contenuti che potrebbero non interessarti, ma che potrebbero esserti utili nel prendere una decisione politica.
P. Gli algoritmi cambiano le opinioni?
R. È una domanda interessante. Non penso che conosciamo davvero la risposta. 20 o 30 anni fa esisteva un tipo di media utilizzato dalla maggior parte delle persone. Quindi esisteva una sorta di base comune di ciò che era considerato generalmente accettato. Oggi non è più così.
P. È sorprendente che lo studio da anni e non abbia la risposta.
R. Ci sono sociologi che stanno osservando l’impatto diretto, perché si concentra sugli esseri umani, che è qualcosa che studio poco perché mi concentro sugli algoritmi. Questi sistemi cambiano molto rapidamente. Abbiamo studiato di tutto, dall’e-commerce alle app per la mobilità o alla pubblicità. Ci vogliono mesi o anni per capire veramente come funziona uno di questi sistemi. Mentre progettiamo un esperimento per rispondere ad alcune di queste domande, i sistemi sono già cambiati. X [antes Twitter]ad esempio, è cambiato molto.
P. È preoccupante non sapere davvero come ci influenzano?
R. È vero che è sempre più difficile capire come esattamente gli algoritmi influenzino le nostre vite. Molte volte le persone non si rendono nemmeno conto che dietro i sistemi che utilizzano ci sono raccomandazioni o algoritmi di classificazione. Uno dei punti chiave su cui abbiamo lavorato quando ero alla Casa Bianca è stato definire le pratiche che il governo dovrebbe seguire quando utilizza l’intelligenza artificiale. Uno dei punti principali è stata la trasparenza: avvisare le persone quando esiste un algoritmo che prende una decisione su di loro che potrebbe influenzarle negativamente e avere la possibilità di ricorrere in appello.
P. Questo vale per gli algoritmi nei sistemi pubblici, ma gli utenti sanno già che i social network sono organizzati con algoritmi…
R. La maggior parte lo sa, ma quello che non sa è quanti dati raccoglie. Ad esempio, le app sul tuo cellulare raccolgono moltissime informazioni su di te. Le persone non si rendono conto della quantità di dati inseriti in quegli algoritmi, né di quanto ciò sia sbilanciato a causa della quantità di sforzi, denaro e risorse necessari per mettere a punto quegli algoritmi in modo che mostrino esattamente ciò che vogliono.
P. L’obiettivo di queste aziende è fare soldi. Se cambiano anche la società, è una conseguenza involontaria?
R. Non posso parlare delle loro motivazioni, ma sì, l’obiettivo di queste aziende è ottenere il massimo da te. Alcune delle più grandi aziende del mondo gestiscono un’enorme quantità di dati e hanno un’influenza sbalorditiva sul modo in cui parliamo o pensiamo, sia a livello nazionale che globale. È facile immaginare come ciò possa sfuggire al controllo.
P. Il governo degli Stati Uniti sta cercando di vietare TikTok per questi motivi?
R. Ci sono molti motivi per vietare TikTok. Sempre più persone si rendono conto di quanto siano potenti questi sistemi. Hanno il potere di influenzare le persone in molti modi. Ad esempio, ho visto circolare un grafico su X in cui si diceva che la piattaforma consiglia più contenuti di destra. Anche se fosse vero, e potrebbe essere, forse sarebbe perché questo tipo di persone sono più attive su Twitter, o potrebbe essere perché l’algoritmo lo consiglia effettivamente. Non so quale delle due sia vera e potrei progettare un esperimento per studiarlo. Ma ci sono molte potenziali spiegazioni. Solo perché vedi una differenza non significa che sia colpa dell’algoritmo.
P. È difficile aspettare quando questa settimana ci saranno persone che chiederanno dell’influenza di X sull’elezione di Trump…
R. Altre volte abbiamo avuto casi in cui eravamo sicuri e poi non è stato così. Ad esempio, 10 anni fa, quando studiavamo la discriminazione nei prezzi dei voli. C’erano momenti in cui la gente diceva “Ho cercato un volo e qualcun altro ha cercato lo stesso volo e i prezzi erano diversi!” Abbiamo iniziato a progettare esperimenti per un anno e a controllare le variabili e abbiamo scoperto che questo era vero solo in circostanze molto specifiche. Quasi sempre quello che è successo è stato puro caso.
P. Tutte coincidenze?
R. C’erano alcune eccezioni. Abbiamo scoperto che in alcune app cambia se utilizzi un cellulare o un computer. In altri dipende dal paese in cui pensano che tu sia: anche se è lo stesso volo, se lo compro negli Stati Uniti o in Spagna potrebbe avere prezzi diversi. Le compagnie aeree lo fanno da anni. C’è una tendenza naturale a pensare, ogni volta che vedi una differenza, “ah, un algoritmo mi sta fregando”, il che a volte è vero, ma la maggior parte delle volte no. Non è veramente discriminazione, semplicemente provano cose diverse.
P. C’è anche chi sospetta del cellulare perché riceve annunci di cose che ha appena commentato ad alta voce…
R. Direi che c’è un po’ di pregiudizio di conferma. Te ne accorgi solo quando accade, non quando non accade. Probabilmente ci sono mille altre cose che hai detto al tuo partner quel giorno e che non hanno funzionato. Alcuni miei colleghi hanno condotto uno studio perché le persone sono preoccupate se Alexa o le app sul tuo telefono ti stanno ascoltando o registrando. Hanno fatto uno studio con le app mobili. Hanno trovato app che facevano altre cose orribili, ma non che ti registrassero segretamente. a volte c’è targeting in base ai nuclei familiari. Le società di dati si rendono conto che vivi con quell’altra persona e associano i profili in vari modi. Quindi, in determinati contesti potrebbe essere che il tuo partner stesse cercando qualcosa e all’improvviso hai iniziato a vedere annunci relativi a quello. Ma penso che, ancora una volta, questa potrebbe essere la spiegazione o potrebbe essere solo un caso e tu hai notato quella coincidenza. Dal punto di vista scientifico, dovremmo progettare un esperimento per dimostrare che ciò avviene in modo sistematico.
P. Gli algoritmi di personalizzazione andranno oltre?
R. Nel corso degli anni ho visto solo che stanno aumentando. Sempre più sistemi vengono personalizzati semplicemente perché sono disponibili più dati. Ogni volta che ti trovi in una situazione in cui ci sono tonnellate di contenuti, più di quelli che chiunque può consumare, hai bisogno di una sorta di algoritmo che dica “ecco cosa ti interessa”. Questa è la personalizzazione. È probabile che questi algoritmi diventeranno sempre più parte della nostra vita quotidiana.
P. Hai più paura o speranza per i prossimi cinque anni?
R. Se me lo avessero chiesto cinque anni fa, avrei detto che la gente non ha idea di cosa sta succedendo, sarei stato più pessimista. Ora sento che c’è più consapevolezza di quanti algoritmi sono coinvolti in questi sistemi. È qualcosa che è nell’opinione pubblica. La risposta ottimistica è che si vedono i governi davvero alle prese con questi problemi, il che mi fa sperare che, tra cinque o dieci anni, avremo trovato un modo per bilanciare le cose. La risposta pessimistica è che questi sistemi stanno avanzando così rapidamente e le aziende sono così potenti che i governi avranno difficoltà a tenere il passo.