Riccardo Renzi considera che l’IA è ormai un dispositivo di potere globale, plasmato da standard privati e interessi economico-politici, e sostiene che profilazione, sorveglianza e oligopoli computazionali erodono la democrazia e aumentano le discriminazioni algoritmiche, mentre la regolamentazione UE appare inefficace contro le asimmetrie dei dark pattern. Serve un cambio di paradigma: trasformare l’IA in contropotere sociale con audit automatizzati e investimenti pubblici per la sovranità democratica e industriale.
L’intelligenza artificiale ha superato la soglia della pura speculazione tecnocratica, cioè del confine teorico e concettuale oltre il quale il dibattito smette di misurarsi con i limiti concreti della realtà (politica, sociale, giuridica ed economica) e scivola nell’esercizio astratto di ingegneria istituzionale o algoritmica) per insediarsi al centro dei dispositivi di potere che strutturano l’ordine globale contemporaneo
Un primo dispositivo fondamentale è la traslazione del potere normativo dai parlamenti alle agenzie tecniche, alle organizzazioni sovranazionali e agli enti di standardizzazione privati (ISO, IEEE, W3C, Financial Action Task Force). Nel dibattito pubblico si tende a liquidare la questione attraverso una narrazione binaria, paralizzata tra la celebrazione dell’innovazione salvifica e l’angoscia per una deriva distopica. Tale approccio rischia di oscurare la vera natura del fenomeno: l’IA non è una variabile indipendente che procede per forza propria, bensì un costrutto storico, sociale ed economico. La sua traiettoria riflette in modo speculare i rapporti di forza, gli orientamenti di mercato e le opzioni ideologiche delle società che la sintetizzano. Guardare all’innovazione algoritmica privandola della sua matrice politico-economica significa cedere a un determinismo tecnologico fuorviante che deresponsabilizza gli attori reali e colonizza l’immaginario collettivo, facendoci accettare come ineluttabile ciò che è solo l’esito di scelte precise.
Una rilevante dimensione critica riguarda l’impatto di questi strumenti sulla tenuta dei processi democratici. Le minacce più insidiose non derivano da un’improvvisa autonomia delle macchine, ma dall’impiego sistematico della profilazione comportamentale, della manipolazione dell’informazione e della sorveglianza capillare. La vicenda dei deepfake audio volti a disincentivare la partecipazione elettorale nelle consultazioni statunitensi dimostra come la manipolazione micro-mirata possa alterare la dinamica della rappresentanza. Tuttavia, l’ampiezza di tali distorsioni affonda le radici nella struttura stessa del modello di business delle grandi piattaforme digitali.
Nell’ambito di questa architettura, la gratuità dei servizi è il corrispettivo della cessione costante di traccia informativa. Gli individui cessano di essere utenti per trasformarsi in risorse da cui estrarre previsioni comportamentali, successivamente valorizzate sul mercato pubblicitario e della persuasione. Poiché l’impegno dell’utente costituisce la risorsa primaria da monetizzare, gli algoritmi di raccomandazione tendono a premiare contenuti polarizzanti, sensazionalistici o conflittuali. Ne consegue una frammentazione dello spazio pubblico, la crescita dei messaggi d’odio online e la progressiva erosione della base fiduciaria necessaria al dialogo democratico.
Questa riconfigurazione porta a una concentrazione oligarchica di ricchezza e potere conoscitivo nelle mani di un ristretto manipolo di corporazioni private. Il divario nelle risorse destinate alla ricerca e allo sviluppo evidenzia lo squilibrio tra pubblico e privato: a fronte di investimenti statali o comunitari contenuti, il capitale privato immette centinaia di miliardi di dollari nel settore, accentrati in massima parte nel contesto nordamericano. Una simile sproporzione assicura ai privati il monopolio strategico sui tre pilastri dello sviluppo tecnologico: la potenza di calcolo, la disponibilità di sterminati volumi di dati e l’attrazione dei migliori talenti. Di conseguenza, l’agenda scientifica viene subordinata all’imperativo della massimizzazione del profitto nel breve periodo, sacrificando il potenziale applicativo dell’IA verso sfide di interesse generale, quali la transizione ecologica, il sostegno ai sistemi sanitari o la riduzione delle diseguaglianze.
Come ulteriore criticità, collegata a quella precedente, va sottolineata l’estrazione sistematica di informazioni, che ha raggiunto una granularità che non ha precedenti. Dalle rudimentali analisi basate su test psicometrici somministrati sui social network, si è passati all’impiego di modelli generativi capaci di decodificare sfumature emotive, vulnerabilità e registri linguistici attraverso l’interazione conversazionale. Non si tratta più soltanto di aggregare la popolazione in ampie categorie sociodemografiche, ma di produrre profili dinamici in grado di intercettare disposizioni psicologiche ed etiche passeggere. Parallelamente, l’uso di software di spionaggio ad altissima invasività da parte di apparati statali nei confronti di giornalisti, oppositori e attivisti dimostra la permeabilità delle istituzioni politiche alla tentazione della sorveglianza pervasiva, concretizzando quella società dell’autocontrollo teorizzata dalla filosofia politica del Novecento.
In questo scenario, il quadro normativo di tutela appare strutturalmente insufficiente. L’impianto regolatorio europeo, pur avanzato nelle intenzioni, continua a fare perno sul principio della trasparenza e sull’acquisizione del consenso informato. Questo approccio presuppone l’esistenza di un soggetto perfettamente razionale e in grado di valutare la portata dei contratti digitali.
Nella realtà, gli individui si trovano esposti a informative fluviali, formulate con terminologie opache e veicolate tramite interfacce progettate secondo logiche di dark pattern (al punto di vista della critica alla tecnocrazia e all’Architettura delle Scelte, il dark pattern non è semplicemente un “trucco grafico”, ma un vero e proprio dispositivo di potere micro-politico), nate per indurre l’utente ad optare per la scelta meno protettiva. La sproporzione informativa tra il singolo e il gestore della piattaforma rende la tutela puramente formale.
Per bilanciare una simile asimmetria non basta l’enunciazione del diritto: occorre dotare la società civile di strumenti tecnologici ad alta capacità computazionale. Iniziative di audit algoritmico automatizzato, capaci di scandagliare le clausole vessatorie e le violazioni della privacy nei contratti di rete, rappresentano l’esempio di come la tecnologia possa essere convertita in contropotere a presidio dei diritti collettivi. Le insidie si estendono anche al piano della giustizia distributiva e dell’eguaglianza formale attraverso la discriminazione algoritmica.
I modelli di apprendimento automatico, venendo addestrati su basi di dati che incorporano le stratificazioni storiche del pregiudizio, tendono a reiterare e formalizzare le disparità preesistenti. Che si tratti di algoritmi per la selezione del personale che penalizzano profili femminili, o di indicatori di rischio del credito che impiegano variabili geografiche come correlato sostitutivo dell’etnia, il sistema converte l’ingiustizia strutturale del passato in una previsione oggettiva per il futuro. Nemmeno i tentativi di correzione puramente tecnica si rivelano risolutivi: l’introduzione di filtri di diversità a posteriori nei modelli generativi rischia di produrre allucinazioni storiche o distorsioni paradossali, mentre nei settori ad alta intensità diagnostica la mancanza di dati relativi alle fasce marginalizzate penalizza l’efficacia dei trattamenti.
La discriminazione non è un mero bug informatico, ma la diretta conseguenza di squilibri socio-economici che richiedono interventi politici concreti. A ciò si aggiunge il problema dell’imputabilità giuridica all’interno dei processi decisionali automatizzati. L’opacità dei modelli di apprendimento profondo complica la tracciabilità del nesso causale, ostacolando la contestazione delle decisioni sfavorevoli. L’ipotesi di mantenere un controllo umano nel ciclo decisionale si rivela spesso teorica: di fronte a scenari complessi e a tempi di reazione ridottissimi, l’agente umano rischia di trasformarsi in un mero ratificatore passivo dell’esito algoritmico. Sul piano del diritto della responsabilità civile, mentre i quadri regolatori generali moltiplicano gli adempimenti formali d’autocertificazione a carico dei produttori, le proposte volte a riequilibrare l’onere della prova a favore del danneggiato subiscono battute d’arresto dettate dalle pressioni della competizione globale.
In ambito internazionale, la geografia della regolamentazione riflette visioni del mondo contrapposte. Se gli Stati Uniti privilegiano un modello orientato all’autoregolamentazione per tutelare il primato industriale e militare, la Cina integra la tecnologia all’interno di una governance autoritaria volta al controllo sociale. L’Unione Europea tenta di esercitare un’egemonia normativa sfruttando l’attrattività del proprio mercato interno. Tuttavia, la capacità di dettare regole rischia di rivelarsi insufficiente se disgiunta da un’adeguata sovranità industriale e scientifica. Senza una visione politica in grado di riorientare gli investimenti verso beni pubblici fondamentali, il rischio è di assistere alla frammentazione della rete e all’assoggettamento dei valori democratici alla logica della potenza tecnologica.
