Il rapporto tra potere politico e tecnologie è sempre più stretto. Lo dimostrano i rischi di sorveglianza e manipolazione democratica e le conseguenze della pervasività degli algoritmi. Di questi temi, assieme a quello della necessità di sviluppare un’intelligenza artificiale al servizio dei cittadini, hanno parlato Marco Cappato e Alessandro Donati, che lo ha intervistato. Tra la proposta di una piattaforma europea per le iniziative civiche e la disobbedienza civile digitale, il fondatore di EUmans immagina un’Europa più democratica, attiva e capace di governare i cambiamenti del nuovo millennio tecnologico.
Alessandro Donati: Partirei da un’immagine che tutti abbiamo ancora ben presente: la cena alla Casa Bianca tra Donald Trump e alcuni dei principali protagonisti della tecnologia americana, come Mark Zuckerberg, Tim Cook e Bill Gates. Oggi il legame tra grandi piattaforme tecnologiche e potere politico sembra più stretto che mai, non solo negli Stati Uniti ma anche in Europa. Quanto ciò rappresenta un rischio concreto per le democrazie occidentali?
Marco Cappato: Spesso si cade nell’illusione di pensare che una tecnologia sia, di per sé, buona o cattiva. In realtà non è mai così. Ogni tecnologia incorpora una quota di potere e, come ogni forma di potere, deve essere sottoposta a regole e controlli.
Con la rivoluzione dell’intelligenza artificiale, è ormai evidente che il potere si concentra nelle mani di pochi soggetti privati, spesso più influenti dei governi di molti Stati. E questo stesso potere va ben oltre le semplici scelte di consumo.
Tali attori influenzano il modo in cui veniamo informati, decidono quali contenuti privilegiare e incidono sui confini della libertà di espressione.
Queste decisioni dovrebbero appartenere alla sfera politica e democratica, ma siccome vengono progressivamente sottratte al controllo delle istituzioni, aumenta il rischio di un potere tecno-autoritario.
L’alleanza tra il potere politico e i grandi protagonisti della tecnologia rappresenta quindi un problema serio. Tuttavia, più che suscitare preoccupazione, dovrebbe spingerci a costruire efficaci strumenti di bilanciamento, per restituire ai cittadini la possibilità di controllare sia le istituzioni, che i grandi poteri tecnologici.
Oggi questa risposta democratica è assente o estremamente debole. Per questo, come EUmans, sosteniamo la necessità di sviluppare un’intelligenza artificiale civica: servono investimenti pubblici e strumenti tecnologici progettati per aumentare il potere dei cittadini, non soltanto quello dei governi, delle grandi aziende della Silicon Valley o della Cina.
AD: Ha parlato del potere di filtrare l’informazione. Viene in mente un episodio molto recente: il video del professor Alessandro Barbero in cui spiegava le ragioni del suo No al referendum sulla separazione delle carriere è stato oscurato da Meta. Alla luce di casi come questo, le tecnologie rappresentano oggi uno strumento di emancipazione, oppure stanno diventando sempre più un mezzo di controllo?
MC: Il loro potenziale a favore della democrazia è enorme, ma perché si realizzi, occorre che le democrazie stesse tornino a credere in sé stesse, nella partecipazione civica e nella capacità di cooperare.
Non credo che le sfide poste dall’intelligenza artificiale possano essere affrontate semplicemente moltiplicando i divieti o affidando alle piattaforme il potere di decidere quali contenuti rimuovere. Allo stesso tempo, sarebbe altrettanto sbagliato lasciare queste decisioni esclusivamente al potere politico.
Ciò che oggi manca davvero è un investimento nello sviluppo di algoritmi orientati al bene comune. Quando parlo di ‘algoritmi buoni’ non mi riferisco a una categoria morale, ma a strumenti progettati per incentivare comportamenti democratici.
Gli algoritmi attuali premiano chi cattura l’attenzione il più a lungo possibile, perché il loro obiettivo è vendere pubblicità. Un algoritmo pensato nell’interesse della democrazia dovrebbe invece valorizzare chi ascolta, chi legge prima di commentare, chi dialoga e si confronta con gli altri.
di Robin Worrall. Foto via Unsplash.
Naturalmente è necessario impedire che gli algoritmi favoriscano manipolazione, odio, violenza o istigazione a commettere reati. Ma non basta limitarsi ai divieti.
La sfida sarà persa se le democrazie non sapranno collaborare, almeno a livello europeo, anche per sviluppare piattaforme che rendano la partecipazione civica più semplice e coinvolgente.
Pensiamo ai videogiochi come Minecraft, che riescono ad appassionare milioni di persone alla costruzione di mondi virtuali. Perché non utilizzare la stessa logica per rendere interessante la partecipazione alla costruzione della realtà concreta delle nostre città, dei nostri Paesi e delle istituzioni democratiche?
Le possibilità offerte dalla tecnologia sono enormi, ma richiedono investimenti, regole e volontà politica.
La rivoluzione tecnologica potrebbe diventare anche una rivoluzione democratica. Se però rinunciamo a questa prospettiva, finiranno per prevalere modelli alternativi: quello cinese, fondato sull’integrazione tra capitalismo e sorveglianza di massa, oppure quello statunitense, che presenta criticità molto diverse ma altrettanto rilevanti.
AD: Restando sul tema delle grandi innovazioni tecnologiche, l’intelligenza artificiale è probabilmente quella che più di ogni altra sta trasformando la nostra società. Quale ruolo può avere in politica? Può diventare uno strumento al servizio dei cittadini oppure i rischi superano le opportunità?
MC: Abbiamo già numerose prove del fatto che l’intelligenza artificiale possa essere impiegata contro la democrazia. Gli algoritmi sono sempre più efficaci nell’individuare e promuovere contenuti aggressivi, divisivi e polarizzanti perché generano attenzione, audience e, di conseguenza, profitto. Il problema, però, è anche dover costruire un’alternativa.
Oggi, se una persona appena arrivata in Italia vuole ricaricare il telefono, trova immediatamente chatbot efficientissimi capaci di guidarla nell’acquisto.
Se invece desidera presentare una petizione perché qualcosa non funziona nel proprio quartiere o nel proprio Comune, è costretta a orientarsi tra regolamenti complessi, modulistica cartacea e procedure burocratiche.
Le tecnologie più avanzate vengono utilizzate per facilitare le transazioni commerciali, mentre la partecipazione democratica continua a essere ostacolata da procedure antiquate.
Il potere politico, anche nelle democrazie, è spesso talmente autoreferenziale e timoroso di aprirsi ai cittadini da frenare proprio quell’utilizzo delle tecnologie che potrebbe invece rafforzarne la partecipazione.
Ci si lamenta dell’astensionismo o della crescente disaffezione verso la politica, ma allo stato attuale è inevitabile: stiamo costruendo un sistema in cui la democrazia è sempre meno accessibile e sempre meno interessante.
Paradossalmente, la partecipazione democratica è una delle poche attività fondamentali della vita civile a essere rimasta quasi del tutto esclusa dall’ecosistema digitale.
EUmans e il futuro dell’Europa
AD: Ed è proprio questo l’obiettivo di EUmans. Uno dei vostri progetti più noti, infatti, punta alla creazione di una piattaforma attraverso cui ogni cittadino possa accedere facilmente a petizioni, referendum e consultazioni pubbliche, dal livello comunale fino a quello europeo. Che cosa l’ha spinta, nel 2019, a fondare EUmans? E quali sono oggi le priorità del movimento?
MC: Basta osservare la cronaca internazionale. Trump, la Cina, la Russia: ogni giorno emerge con sempre maggiore evidenza che, di fronte alle grandi sfide globali, serve un’Europa più forte.
Lo si sente dire ormai ovunque, persino nelle conversazioni più informali: “Ci vorrebbe l’Europa”. È quasi diventata una constatazione spontanea. Quando la geopolitica torna a essere dominata dai rapporti di forza, il diritto internazionale perde progressivamente spazio. E proprio per questo diventa indispensabile un soggetto capace di difendere regole comuni, diritti fondamentali e principi democratici.
Nessun Paese membro, da solo, possiede il peso necessario per incidere sulle grandi questioni globali: dal cambiamento climatico alle migrazioni, dalle guerre allo sviluppo tecnologico, fino alla ricerca scientifica.
L’Europa rappresenta la dimensione minima necessaria per esercitare un’influenza reale. Il problema è che non possiamo aspettarci che siano soltanto i governi nazionali a costruirla. Per farlo dovrebbero rinunciare a una parte significativa della propria sovranità, ed è naturale che siano riluttanti.
Per questo il coinvolgimento diretto dei cittadini è decisivo. Senza una partecipazione popolare autentica, il progetto di un’Europa democratica è destinato a fallire. EUmans nasce esattamente da questa convinzione: servono veri movimenti paneuropei.
Oggi i partiti europei continuano a essere, di fatto, federazioni di partiti nazionali. Prima ci si iscrive a un partito del proprio Paese e solo successivamente si entra a far parte della famiglia politica europea. Noi immaginiamo invece una partecipazione ‘direttamente europea’, che superi questa impostazione.
Le nuove tecnologie rendono finalmente possibile tutto questo. L’intelligenza artificiale, la traduzione automatica e gli strumenti di interpretazione linguistica consentono ormai anche a chi non appartiene a un’élite culturale di dialogare facilmente con cittadini di altri Paesi. Esistono quindi anche le condizioni tecnologiche affinché possa svilupparsi una vera opinione pubblica europea.
Naturalmente questo non significa cancellare le identità locali o nazionali, ma affiancarle a una consapevolezza europea, indispensabile per affrontare problemi che nessuno Stato può più risolvere da solo.
Per questo parliamo di un movimento paneuropeo: un luogo nel quale cittadini provenienti da tutta Europa possano discutere insieme e utilizzare gli strumenti di democrazia diretta già previsti dai Trattati, come l’Iniziativa dei Cittadini Europei.
Lo abbiamo fatto con My Voice, My Choice, raccogliendo oltre un milione di firme per portare all’attenzione delle istituzioni europee una proposta sul diritto all’aborto. Ma non basta. Occorre introdurre nuovi strumenti: referendum europei, assemblee di cittadini estratti a sorte e forme di partecipazione diretta sempre più efficaci.
Se non rafforziamo questa dimensione, sia attraverso riforme istituzionali, sia grazie alle nuove tecnologie, l’obiettivo di un’Europa realmente unita e democratica resterà irraggiungibile.
Giovani, sorveglianza e partecipazione democratica
AD: Che ruolo possono avere le nuove generazioni nella costruzione di un’Europa più unita e democratica? E, più in generale, come possono contribuire a ripensare l’attivismo politico?
MC: Marco Pannella, con cui ho condiviso molti anni di militanza nel Partito Radicale, era un convinto oppositore dei ragionamenti fondati esclusivamente sulle generazioni. Credo avesse ragione.
Un giovane può essere conservatore, reazionario, disinteressato o chiuso al cambiamento tanto quanto una persona di ottant’anni. Le grandi battaglie politiche sono, per loro natura, intergenerazionali.
Detto questo, oggi esiste una novità significativa. Chi appartiene alle nuove generazioni cresce in un contesto profondamente diverso dal mio. Io ho dovuto imparare ad adattarmi all’evoluzione tecnologica; un ragazzo di sedici o diciotto anni, invece, è nato in un mondo in cui l’intelligenza artificiale fa già parte della quotidianità, dello studio, dell’informazione e della comunicazione.
Per questo motivo, i giovani hanno una responsabilità particolare. Non perché l’età renda automaticamente più coraggiosi o più innovativi: a volte è proprio chi è più anziano ad avere meno da perdere e quindi maggiore libertà di agire; ma perché dispongono di strumenti che consentono loro di comprendere e utilizzare queste tecnologie con maggiore naturalezza.
AD: Oggi tecnologie di sorveglianza come quelle sviluppate da Palantir sono sempre più pervasive. La Svizzera, ad esempio, ha recentemente rifiutato un contratto da circa 200 milioni di dollari con l’azienda proprio per le preoccupazioni legate alla sicurezza nazionale. Alla luce di questi sviluppi, la disobbedienza civile è diventata oggi più difficile o più necessaria proprio perché più difficile?
MC: Avremmo bisogno che fossero proprio i più giovani a indicarci nuove strade. Forse esistono forme di disobbedienza civile ancora tutte da inventare nel mondo digitale.
Naturalmente la disobbedienza civile implica sempre l’assunzione di una responsabilità personale, fino ad arrivare, quando necessario, all’autodenuncia. Anche la figura dell’hacker etico, capace di mettere le proprie competenze al servizio dell’interesse pubblico, potrebbe rappresentare una nuova declinazione della nonviolenza nell’era digitale.
Più in generale, occorre far comprendere che un controllo sempre più pervasivo non coincide automaticamente con una maggiore sicurezza. Al contrario, rischia di concentrare enormi quantità di potere nelle mani di pochissimi soggetti.
La funzione della democrazia dovrebbe essere proprio quella di riequilibrare questo rapporto di forza, investendo in tecnologie che mettano in relazione i cittadini tra loro, consentendo un utilizzo condiviso dei dati. Sempre nel rispetto della privacy, per finalità di interesse pubblico e non per la sorveglianza, il controllo o la commercializzazione delle informazioni personali.
AD: C’è una misura concreta che, secondo lei, le istituzioni europee potrebbero adottare fin da subito per ridurre la distanza percepita dai cittadini?
MC: Una soluzione semplice esiste e avrebbe anche costi relativamente contenuti: realizzare una piattaforma europea dedicata alla partecipazione democratica. Immagino uno strumento accessibile da computer o smartphone, attraverso il quale ogni cittadino possa visualizzare tutte le iniziative in corso, proporne di nuove e partecipare facilmente ai processi democratici, dal livello comunale fino a quello europeo.
Uno strumento di questo tipo cambierebbe profondamente la percezione dei cittadini nei confronti delle istituzioni europee e renderebbe possibile intervenire con maggiore tempestività anche sulle grandi questioni internazionali. Naturalmente la tecnologia, da sola, non basta.
Sono necessarie anche importanti riforme istituzionali: un Parlamento europeo pienamente legittimato a esercitare il proprio ruolo politico e una Corte di Giustizia sempre più autorevole. Se si sceglierà di costruire una difesa comune, questa dovrà essere inserita all’interno di una vera politica estera europea, definita democraticamente e sottoposta al controllo del Parlamento rappresentativo dei cittadini europei.
Le riforme istituzionali sono indispensabili, ma devono partire da un principio fondamentale: mettere il cittadino al centro del progetto europeo.
L’Europa tra competitività e libertà
AD: Chi trae vantaggio, allora, da cittadini frammentati e da istituzioni europee deboli?
MC: Non credo alle teorie del complotto né all’idea di un presunto ‘grande vecchio’ che orchestrerebbe tutto nell’ombra. È però evidente che l’assenza di un ordine internazionale fondato sulla democrazia e sullo Stato di diritto favorisca sia i regimi autoritari, sia alcuni dei grandi protagonisti del capitalismo globale.
I governi autoritari possono agire senza dover rispondere a istituzioni sovranazionali realmente efficaci, mentre le grandi concentrazioni di potere economico trovano meno ostacoli in un contesto internazionale frammentato.
Non penso che la debolezza dell’Europa democratica sia il risultato di un disegno coordinato. Tuttavia, è evidente che la sua assenza lasci maggiore spazio d’azione a questi attori.
AD: Le rivolgo un’ultima domanda, volutamente provocatoria. Se l’Unione Europea dovesse scegliere tra regolamentare in modo rigoroso le grandi piattaforme tecnologiche, rischiando però di perdere competitività rispetto a Stati Uniti e Cina, oppure mantenere la propria competitività, accettando parte dei rischi legati a queste tecnologie, quale strada dovrebbe seguire?
Credo che esista una terza via e che l’Europa possa essere competitiva senza rinunciare ai propri valori. Se l’alternativa fosse davvero soltanto questa e il rischio fosse quello di subire il dominio tecnologico della Cina – un modello apertamente autoritario – allora probabilmente saremmo costretti ad accettare compromessi che oggi non vorremmo fare. Ma non credo che lo scenario sia inevitabile.
Oggi l’intelligenza artificiale rappresenta una nuova sfida. Un potere centralizzato che dispone di enormi quantità di dati e della capacità di elaborarli può acquisire un’efficienza senza precedenti.
Nonostante questo, continuo a credere che un modello distribuito, fondato sulla cooperazione libera tra le persone, possa rimanere superiore. È questo, in fondo, il significato più profondo della democrazia: mettere in rete l’intelligenza collettiva della società invece di concentrare ogni decisione nelle mani di pochi.
La società civile di un Paese democratico rappresenta una straordinaria ricchezza. Produce conoscenze, relazioni, informazioni: in altre parole, tutto ciò che potremmo definire come i ‘big data della democrazia’. È un patrimonio che nessun regime autoritario può generare nello stesso modo. L’Europa può ancora essere competitiva, ma soltanto se saprà valorizzare questo capitale.
Se continueremo a non raccogliere questi dati, a non conservarli e a non utilizzarli per rafforzare la partecipazione democratica, limitandoci invece a inseguire la Cina sul terreno del controllo centralizzato, partiremo inevitabilmente in svantaggio.
Sarebbe un errore rincorrere modelli fondati esclusivamente sul controllo, sulla sorveglianza e sulla massimizzazione del profitto.
Su quel terreno siamo già in ritardo e difficilmente riusciremmo a colmare il divario. La vera sfida è costruire un modello diverso, capace di dimostrare che libertà, democrazia e innovazione possono rafforzarsi a vicenda, al posto che entrare in conflitto tra loro.
Alessandro Donati
(In copertina, Marco Cappato, fonte: marcocappato )
Intervista a Marco Cappato: il futuro della democrazia tra tecnologia, algoritmi e intelligenza artificiale è un’intervista a cura di Alessandro Donati. Clicca qui per altri articoli dell’autore!
