Abstract
Il saggio ricostruisce la genealogia del controllo del discorso pubblico nelle democrazie liberali avanzate, dalla teoria della comunicazione di Lippmann e Bernays (1922–1928) ai Large Language Models contemporanei. Attraverso la tradizione critica — Gramsci, Adorno, Herman e Chomsky, Zuboff — esamina il passaggio dalla gestione dei messaggi all’organizzazione dell’ambiente cognitivo entro cui il giudizio si forma. Non postula un unico progetto storico, ma confronta meccanismi differenti di selezione, personalizzazione e generazione del discorso. La tesi proposta è che gli ordini sociali maturi possano neutralizzare il dissenso non soltanto reprimendolo, ma anche producendone alcune forme, amplificandone altre e incorporando selettivamente rivendicazioni autentiche. Media, piattaforme digitali e LLM costituiscono infrastrutture entro cui questi processi possono operare, senza determinare meccanicamente il giudizio o rendere ogni opposizione funzionale al sistema.
Il 12 giugno 1871, Henri-Frédéric Amiel annota nel suo diario una diagnosi che non è ancora un programma politico:
«Toute fiction s’expie, et la démocratie repose sur cette fiction légale que la majorité a non seulement la force mais la raison, qu’elle possède la sagesse en même temps que le droit. Fiction dangereuse parce qu’elle est flatteuse.» 1
Amiel formula un’obiezione radicalmente antiegualitaria alla democrazia: il principio maggioritario attribuirebbe alla maggioranza non solo la forza — che è un dato di fatto — ma anche la ragione, che non può essere garantita dal numero. Il seguito del passo, esplicitamente ostile all’estensione del suffragio alle donne e alle classi popolari, mostra che la diagnosi non è separabile senza cautele dai suoi presupposti conservatori. Rimane tuttavia rilevante la distinzione analitica fra il diritto della maggioranza a decidere e la verità delle sue decisioni.
Cinquant’anni dopo, lo stesso problema riappare in un contesto differente. Non è necessario postulare un’influenza diretta di Amiel. Nel 1922 Walter Lippmann pubblica Public Opinion (Lippmann, 1922). Non è un pamphlet politico, ma un’analisi della formazione dell’opinione nelle società di massa. Gli esseri umani, argomenta Lippmann, non accedono alla realtà direttamente: vivono in uno pseudo-environment, un ambiente simbolico costruito da rappresentazioni mediate. Il mondo reale è troppo vasto, complesso e fuggevole perché ciascun cittadino possa comprenderlo senza intermediari. La distinzione fra decisione e conoscenza diventa così un problema tecnico e istituzionale: chi costruisce le rappresentazioni attraverso cui il pubblico conosce il mondo?
Sei anni dopo, Edward Bernays pubblica Propaganda (Bernays, 1928). Il titolo, nel 1928, non possiede ancora esclusivamente il significato negativo che assumerà in seguito. Bernays — che aveva lavorato nella propaganda statunitense durante la Prima Guerra Mondiale e applicato la psicologia delle masse alla comunicazione commerciale — scrive con la stessa pacatezza di Lippmann. “La manipolazione consapevole e intelligente delle abitudini e delle opinioni organizzate delle masse è un elemento importante in una società democratica”, afferma nell’apertura. “Coloro che manipolano questo meccanismo nascosto della società costituiscono un governo invisibile che è il vero potere che controlla il nostro paese.”
Non è un’accusa. È una descrizione professionale di ciò che Bernays fa, e che ritiene necessario.
Una difficoltà teorica viene così trasformata in un programma pratico: poiché il pubblico dipende da rappresentazioni mediate, l’organizzazione di quelle rappresentazioni diventa una funzione professionale e politica. John Dewey risponderà in modo differente, proponendo di ricostruire le condizioni materiali e comunicative attraverso cui il pubblico possa deliberare. Fra le due prospettive non vi è una semplice successione causale, ma una biforcazione: amministrare il consenso oppure ampliare le capacità collettive che rendono possibile formarlo.
Ciò che verrà dopo — l’industria culturale di Adorno e Horkheimer, i filtri strutturali di Herman e Chomsky, il capitalismo della sorveglianza di Zuboff, i Large Language Models addestrati su grandi raccolte di testi — non costituisce lo sviluppo lineare di un progetto unitario. Si tratta di teorie, istituzioni e tecnologie differenti. Possono però essere confrontate perché spostano progressivamente l’attenzione dal contenuto del singolo messaggio alle condizioni entro cui alcuni messaggi diventano più visibili, credibili e facilmente formulabili di altri.
Questo saggio ricostruisce tale costellazione storica, cercandone le continuità senza cancellarne le differenze.
Lippmann non è un cinico. È qualcosa di più interessante: un democratico convinto che la democrazia, nella sua forma letterale, sia impossibile. Il problema non è la malevolenza dei governanti — è la struttura cognitiva degli esseri umani. Ogni individuo porta nella testa una mappa del mondo che non corrisponde al territorio. Le “immagini nella testa” (pictures in our heads) sono costruzioni semplificate, stereotipate, inevitabilmente parziali. Su queste immagini — non sulla realtà — si formano le opinioni politiche. Su queste opinioni si vota.
La conclusione di Lippmann è pragmatica: poiché la realtà è inaccessibile alle masse, serve una classe di specialisti — analisti, esperti, comunicatori — capaci di tradurla in rappresentazioni utilizzabili. Non è antidemocratico, nella sua visione: è la condizione di funzionamento di qualsiasi democrazia moderna. Il problema dell’autogoverno non è morale ma tecnico. Va risolto con competenza, non con virtù civica.
Bernays prende questa premessa e la industrializza. Nipote di Freud, ha assorbito l’idea che il comportamento umano sia guidato da forze inconsce inaccessibili alla ragione. Il cittadino non può essere convinto argomentando — può essere orientato agendo sulle sue pulsioni, sui suoi desideri, sulle sue appartenenze di gruppo. Propaganda è il manuale di questa tecnica: come creare eventi simbolici che producano associazioni favorevoli, come usare figure d’autorità per validare posizioni, come trasformare bisogni latenti in domanda esplicita. Bernays non distingue tra pubblicità commerciale e comunicazione politica — sono la stessa operazione applicata a oggetti diversi.
La risposta critica più lucida a Lippmann viene da John Dewey. In The Public and Its Problems (Dewey, 1927) Dewey non contesta l’analisi — contesta la conclusione. Il problema non è che le masse siano cognitivamente inadeguate al self-government: è che le condizioni materiali e comunicative glielo impediscono. Una democrazia reale richiederebbe comunità in grado di discutere, deliberare, formarsi opinioni attraverso l’esperienza diretta. Queste comunità esistevano — nelle piccole realtà locali, nei movimenti operai, nelle associazioni civili. La grande industria, l’urbanizzazione di massa, i media commerciali le hanno dissolte. Il pubblico non è stupido: è stato disorganizzato.
Lo sviluppo storico dei grandi sistemi di comunicazione seguirà più facilmente il problema formulato da Lippmann che la soluzione proposta da Dewey. Ciò non dimostra che Dewey avesse torto: mostra che amministrare un pubblico già disorganizzato richiede meno trasformazioni istituzionali che ricostruire le condizioni della sua partecipazione.
La frattura fra i due definisce il campo per molto di ciò che viene dopo. Da un lato la tradizione tecnocratica: il consenso deve essere organizzato perché le società complesse richiedono mediazioni specialistiche. Dall’altro la tradizione democratica e critica: la dipendenza dalle mediazioni non è un dato naturale, ma dipende anche dalle condizioni materiali e comunicative entro cui il pubblico viene formato. Le diagnosi possono sovrapporsi; le conseguenze politiche restano profondamente diverse.
Il problema che Lippmann e Bernays affrontano pragmaticamente — come orientare l’opinione pubblica — viene ripreso negli stessi anni da una tradizione radicalmente diversa, che ne rovescia il segno senza modificarne la diagnosi. Antonio Gramsci, scrivendo nei Quaderni del Carcere tra il 1929 e il 1935 dalle celle del carcere fascista, formula il concetto che diventerà il contributo teorico più duraturo al problema del controllo sociale: l’egemonia.
L’egemonia gramsciana non è dominio. È qualcosa di più sottile e più stabile: il processo attraverso cui una classe dirigente ottiene il consenso delle classi subalterne facendo accettare come universale, naturale e inevitabile la propria visione del mondo (Gramsci, 1975).2 Il potere non si esercita principalmente attraverso la coercizione — quella è la riserva ultima, il dominio in senso stretto. Si esercita attraverso la direzione culturale e morale: la capacità di definire le categorie entro cui il conflitto sociale viene pensato, discusso e risolto. Chi controlla queste categorie non ha bisogno di censurare il dissenso — può permettersi di tollerarlo, perché il dissenso si formula già nei termini che il sistema ha predisposto.
L’implicazione è radicale: la trasformazione politica non è soltanto una questione militare o economica, ma anche culturale. Prima di conquistare il potere, una classe deve costruire un’egemonia alternativa — produrre categorie, narrazioni e forme di senso comune differenti da quelle dominanti. La guerra di posizione precede e condiziona la guerra di manovra. Gramsci scrive pensando alla rivoluzione socialista; il meccanismo che descrive può però essere utilizzato anche per comprendere la conservazione di un ordine.
Nel decennio successivo, durante l’esilio californiano e la Seconda Guerra Mondiale, Theodor Adorno e Max Horkheimer sviluppano una critica parallela che affronta il problema dal lato della produzione culturale industriale. In Dialektik der Aufklärung (1947) il capitolo sull’Kulturindustrie formula una tesi provocatoria: la cultura di massa non si limita a rispondere ai bisogni del pubblico, ma contribuisce a produrli. L’industria culturale — cinema, radio, musica popolare — non è soltanto uno specchio della società: standardizza l’esperienza, tende a omologare il gusto e forma soggetti adatti al consumo.3
La critica di Adorno e Horkheimer è più pessimista di quella gramsciana. Gramsci crede che l’egemonia possa essere contrastata costruendo un’egemonia alternativa. Adorno e Horkheimer dubitano che esista ancora uno spazio esterno al sistema da cui questa costruzione possa partire. L’industria culturale non lascia vuoti: occupa ogni momento della vita, colonizza il tempo libero, trasforma persino la ribellione in prodotto commerciabile. Il jazz diventa formula, l’avanguardia diventa merce, la critica diventa intrattenimento.
Louis Althusser, due decenni più tardi, fornisce la formalizzazione teorica più precisa del meccanismo. Nel saggio “Idéologie et appareils idéologiques d’État” (1970) distingue tra apparati repressivi dello stato — polizia, esercito, carceri — e apparati ideologici — scuola, chiesa, famiglia, media, partiti politici. I primi funzionano principalmente attraverso la violenza; i secondi funzionano principalmente attraverso l’ideologia.4 L’ideologia non è un insieme di idee false che oscurano la realtà: è l’insieme delle pratiche materiali attraverso cui i soggetti vengono costituiti come tali — imparano a riconoscersi in certi ruoli, a desiderare certe cose, a considerare naturale ciò che è storicamente determinato.
Il contributo specifico di Althusser è la nozione di interpellazione: l’ideologia funziona chiamando il soggetto per nome, e il soggetto risponde riconoscendosi. Non c’è coercizione esplicita — c’è riconoscimento. Il lavoratore che si considera “dipendente” invece che “sfruttato”, il consumatore che si identifica con il marchio, il cittadino che percepisce i propri interessi di classe come interessi nazionali: sono tutti effetti di interpellazione riuscita.
Gramsci, Adorno e Horkheimer, Althusser convergono su un punto che la prospettiva amministrativa di Lippmann aveva lasciato sullo sfondo: il controllo più efficace non deve necessariamente censurare idee già formulate. Può contribuire a formare soggetti per i quali alcune idee risultano meno visibili, meno plausibili o perfino difficili da esprimere. Non è soltanto repressione del pensiero: è organizzazione delle condizioni entro cui il pensiero diventa possibile.
La tradizione critica europea — Gramsci, Adorno, Althusser — opera prevalentemente sul piano teorico. Il salto verso l’analisi empirica sistematica dei meccanismi concreti di controllo mediatico avviene negli Stati Uniti, con un libro che trasforma il problema filosofico in problema verificabile: Manufacturing Consent di Edward Herman e Noam Chomsky (1988).
La tesi di Herman e Chomsky non richiede complotti. È precisamente questo il suo contributo metodologico più importante. I media mainstream non devono ricevere direttive dall’alto per favorire alcuni contenuti e marginalizzarne altri: la loro struttura organizzativa, finanziaria e professionale esercita pressioni ricorrenti sulla selezione delle notizie. Herman e Chomsky identificano cinque filtri attraverso cui tali pressioni operano.5
Il primo filtro è la proprietà: le grandi organizzazioni mediatiche sono imprese possedute da corporation o da individui con interessi economici estesi. La proprietà non determina ogni scelta editoriale, ma crea vincoli e conflitti d’interesse quando un’inchiesta minaccia stabilmente gli interessi dei proprietari. Il secondo filtro è la pubblicità: la dipendenza dagli inserzionisti può rendere economicamente costosi alcuni contenuti. Il terzo filtro è il sourcing: la produzione quotidiana di notizie favorisce il ricorso a fonti istituzionali — governi, grandi imprese, think tank — capaci di fornire informazioni continue, accessibili e già confezionate. Il quarto filtro è il flak: le reazioni negative organizzate — querele, campagne e pressioni — aumentano il costo di contenuti sgraditi a soggetti dotati di risorse. Il quinto filtro, storicamente identificato con l’anticomunismo, riguarda il quadro ideologico entro cui le notizie vengono interpretate e valutate.
Il risultato non è necessariamente censura: è selezione strutturale. Il giornalista può agire in buona fede, rispettare standard professionali e, nondimeno, operare entro routine che rendono alcune fonti più accessibili, alcuni temi meno rischiosi e determinate interpretazioni più facilmente pubblicabili. La gabbia non ha bisogno di sbarre visibili.
La concentrazione proprietaria che alimenta il primo filtro è ricostruita da Ben Bagdikian in The Media Monopoly (1983, aggiornato in The New Media Monopoly, 2004). Secondo le categorie utilizzate dall’autore, nel 1983 cinquanta corporation dominavano la maggior parte dei media statunitensi; nel 1987 erano ventinove, nel 1990 ventitré e nel 2004 cinque (Bagdikian, 2004).6 Le cifre dipendono dalla definizione di controllo adottata, ma descrivono una tendenza persistente alla concentrazione e alla convergenza proprietaria.
Bagdikian anticipa anche il problema della convergenza: le stesse corporation che producono notizie producono intrattenimento, pubblicano libri, distribuiscono film, gestiscono parchi tematici. Le categorie si dissolvono. L’informazione diventa un segmento dell’industria dell’attenzione, soggetta alle stesse logiche di qualsiasi altro prodotto di consumo.
Robert McChesney, in Digital Disconnect (2013), prolunga questa analisi nell’era di internet e contesta l’idea che il digitale avrebbe automaticamente democratizzato l’informazione. Internet ha realmente abbassato molte barriere d’ingresso e ampliato la possibilità di produrre e consultare contenuti; nello stesso tempo, la ricerca, la socialità online, la distribuzione commerciale, l’accesso mobile e i servizi cloud si sono concentrati attorno a pochi grandi intermediari.7 Gli effetti di rete, le economie di scala e il controllo dei dati rendono tali posizioni particolarmente difficili da scalfire.
La differenza qualitativa rispetto alla concentrazione novecentesca è che questi soggetti non sono soltanto produttori o proprietari di contenuti: controllano una parte decisiva delle infrastrutture attraverso cui i contenuti vengono cercati, distribuiti e ordinati. Non è più soltanto la proprietà di un giornale. È il controllo dei meccanismi attraverso cui miliardi di persone incontrano l’informazione. I filtri descritti da Herman e Chomsky non scompaiono dalla redazione, ma vengono affiancati dai sistemi che decidono cosa appare nel feed, cosa viene suggerito, cosa viene amplificato e cosa rimane formalmente disponibile ma praticamente invisibile.
Il conformismo non richiede necessariamente un giornalista che si autocensura. Può emergere anche da criteri di ranking, raccomandazione e ottimizzazione incorporati nel codice.
McChesney descrive la concentrazione come problema di struttura di mercato. Shoshana Zuboff, in The Age of Surveillance Capitalism (2019), propone una diagnosi ulteriore: non soltanto chi possieda i canali dell’informazione, ma quale modello economico li governi e quali asimmetrie produca fra chi raccoglie dati e chi utilizza i servizi.
La tesi centrale di Zuboff è che Google, a partire dai primi anni duemila, abbia trasformato i dati comportamentali prodotti dagli utenti in una nuova risorsa economica.8 Questi dati — dove si clicca, quanto tempo si sosta su una pagina, con chi si comunica — non servono soltanto a migliorare il servizio. Possono alimentare modelli predittivi utilizzati per selezionare pubblicità, personalizzare ambienti e aumentare la probabilità di determinate risposte. Zuboff chiama behavioral futures markets i mercati costruiti attorno a previsioni del comportamento. La merce non è semplicemente ciò che l’utente ha fatto, ma la capacità di stimare e tentare di orientare ciò che farà.
Il salto concettuale rispetto a Lippmann e Bernays è rilevante. Lippmann si concentrava sulle rappresentazioni necessarie a comprendere una realtà complessa; Bernays sull’orientamento dell’opinione attraverso simboli e figure d’autorità. Il capitalismo della sorveglianza interviene anche sull’ambiente in cui il messaggio viene recepito e sulla sua modifica continua in funzione dei comportamenti osservati. Alla persuasione si aggiunge così un’architettura capace di rendere alcune condotte più probabili di altre.
Eli Pariser, in The Filter Bubble (2011), descrive un rischio specifico della personalizzazione algoritmica: ciascun utente può ricevere una selezione della realtà costruita anche sulla base del proprio profilo comportamentale.9 Non si tratta necessariamente di un ambiente completamente chiuso, né la ricerca successiva permette di considerare inevitabile ogni filter bubble. Il problema più generale rimane tuttavia reale: nessun contenuto deve essere formalmente proibito perché alcuni diventino molto più difficili da incontrare. Il pubblico può così frammentarsi in ambienti informativi parzialmente differenti, indebolendo il terreno comune necessario al dibattito democratico.
Jaron Lanier, pioniere della realtà virtuale e critico interno del sistema digitale, in Ten Arguments for Deleting Your Social Media Accounts Right Now (2018) porta l’analisi a un livello ulteriore. Il problema non è soltanto la selezione dei contenuti, ma il modello di engagement su cui molte piattaforme sono costruite. Quando i sistemi di raccomandazione vengono ottimizzati per il tempo di permanenza e l’interazione, la qualità dell’informazione e il benessere degli utenti non costituiscono necessariamente il criterio prioritario.10 Contenuti capaci di suscitare indignazione, paura o conferma identitaria possono ottenere un vantaggio sistematico, anche se l’effetto varia fra piattaforme, contesti e utenti. La polarizzazione non è quindi un esito programmato in ogni caso; può essere un incentivo strutturale del modello economico.
Qui la distanza da Lippmann è particolarmente evidente. Lippmann considerava il problema della complessità superiore alla capacità cognitiva del singolo cittadino e affidava agli esperti il compito di renderla trattabile. Un ambiente ottimizzato per la previsione e l’engagement può invece frammentare la realtà e premiare la reazione immediata più della comprensione. Non è necessario che sia stato progettato con uno scopo politico: è sufficiente che i suoi criteri economici entrino sistematicamente in conflitto con quelli epistemici.
La questione proprietaria che Bagdikian aveva documentato per i media tradizionali si ripresenta qui in forma più concentrata e più opaca. I cavi sottomarini restano posseduti attraverso configurazioni differenti — operatori di telecomunicazioni, consorzi e singole imprese — ma i grandi fornitori di contenuti e servizi cloud sono diventati investitori e utilizzatori decisivi della capacità globale. Una concentrazione analoga caratterizza i sistemi operativi mobili, il cloud e la produzione dei chip più avanzati. Non è la proprietà di un singolo giornale o di una rete televisiva: è il controllo di più livelli dell’infrastruttura materiale attraverso cui l’informazione viene filtrata, distribuita e memorizzata.
Zuboff definisce questo sistema instrumentarian power — un potere che non opera soltanto costringendo o persuadendo, ma modifica l’ambiente comportamentale in modo che certe condotte diventino più probabili e altre meno.11 Non è necessariamente tirannia; è organizzazione dell’ambiente. E può rimanere difficile da osservare proprio per chi vive nell’ambiente che contribuisce a costruire.
L’architettura comportamentale descritta da Zuboff opera sull’ambiente in cui i contenuti circolano. I Large Language Models (LLM) introducono una trasformazione ulteriore: non si limitano a ordinare documenti già esistenti, ma partecipano alla produzione della risposta attraverso cui l’utente incontra un argomento.
Il saggio di Emily Bender, Timnit Gebru e colleghe, “On the Dangers of Stochastic Parrots”, ha avuto un ruolo centrale nella critica accademica ai grandi modelli linguistici (Bender et al., 2021). Le autrici richiamano l’attenzione sui costi ambientali e sociali della scala, sull’opacità dei corpora e sul rischio di scambiare la produzione di forme linguistiche plausibili per un accesso al significato equivalente a quello umano. I modelli apprendono regolarità da grandi raccolte di testi; tali raccolte non costituiscono una rappresentazione neutrale del mondo, ma riflettono disuguaglianze di accesso alla pubblicazione, disponibilità digitale, distribuzione linguistica e selezione delle fonti.
Joseph Weizenbaum aveva anticipato una parte del problema. In Computer Power and Human Reason (1976), scritto dopo aver creato ELIZA — uno dei primi programmi capaci di simulare una conversazione terapeutica — mise in guardia contro la tendenza ad attribuire comprensione, empatia e autorità a un sistema sulla base della forma dell’interazione. Il pericolo non consiste soltanto nell’errore della macchina, ma nella possibilità che la sua fluidità riduca la vigilanza critica dell’utente.
Safiya Umoja Noble, in Algorithms of Oppression (2018), mostra nel caso dei motori di ricerca come ranking, pubblicità e interessi commerciali possano rafforzare rappresentazioni razziste e sessiste. Il caso non si trasferisce automaticamente agli LLM, che funzionano in modo differente. Offre però una lezione metodologica: un risultato algoritmico deve essere esaminato insieme ai dati, agli obiettivi economici, ai criteri di ordinamento e alle istituzioni che lo producono.
Un motore di ricerca tradizionale presenta una lista di documenti che l’utente può ancora confrontare; un LLM può restituire direttamente una sintesi. Le fonti alternative possono rimanere disponibili e, nei sistemi dotati di ricerca o recupero documentale, possono essere anche citate. L’utente, tuttavia, incontra anzitutto una ricostruzione già composta. La mediazione interviene quindi non soltanto su ciò che diventa visibile, ma sulla forma attraverso cui un problema viene reso comprensibile.
Questa forma non dipende dalla sola distribuzione statistica dei dati di addestramento. Concorrono anche l’architettura del modello, il post-addestramento, le valutazioni umane, le istruzioni di sistema, gli strumenti di ricerca, le politiche del prodotto e la formulazione della domanda. Quando una risposta apparentemente equilibrata attenua un’asimmetria, assume come neutrale una cornice istituzionale o esclude una posizione rilevante, non è quindi possibile attribuire automaticamente l’esito a un’unica causa. Rimane però il problema politico: quali cornici vengono rese più facilmente disponibili e quanto i criteri che le selezionano siano conoscibili e contestabili.
La composizione dettagliata dei corpora commerciali è spesso solo parzialmente pubblica. È quindi imprudente descriverne con certezza una cosmologia unitaria. Si può affermare qualcosa di più circoscritto: ciò che è maggiormente disponibile in forma digitale, ripetuto, linguisticamente stabile e riconosciuto da istituzioni visibili dispone di maggiori possibilità di entrare nei processi di addestramento e valutazione. Il post-addestramento può correggere alcune regolarità e introdurne altre. Nessuno di questi passaggi è neutrale, ma nessuno determina da solo ogni risposta.
Anche la proprietà e l’accesso alle risorse contano. I modelli di maggiore scala dipendono da capacità computazionali, dati e infrastrutture cloud concentrate in un numero limitato di grandi imprese. Esistono modelli aperti, pubblici e accademici, ma l’apertura dei pesi non elimina necessariamente la dipendenza dall’hardware e dai servizi necessari per addestrarli e utilizzarli su larga scala.
Il risultato è una trasformazione del rapporto fra produzione e consumo del discorso pubblico. Lippmann descriveva giornalisti ed esperti che costruivano le “immagini nella testa”; Bernays campagne e figure d’autorità; Herman e Chomsky redazioni sottoposte a filtri strutturali; Zuboff sistemi che modificano l’ambiente comportamentale. Gli LLM aggiungono un intermediario capace di produrre, su scala inedita e in forma conversazionale, una prima rappresentazione coerente delle conoscenze disponibili.
L’utente non è passivo. Può contestare la risposta, chiedere fonti, confrontare modelli, esplorare argomenti contrari e utilizzare lo stesso sistema per ampliare le alternative che avrebbe altrimenti incontrato. L’LLM può quindi restringere o accrescere l’autonomia. La questione riguarda la posizione che occupa fra il soggetto e il mondo: quanto la sua mediazione sia visibile, verificabile e modificabile, e quanto facilmente la plausibilità linguistica venga scambiata per autorità epistemica.
La traiettoria descritta nelle sezioni precedenti potrebbe suggerire un modello in cui il potere reagisce a un dissenso già esistente: lo seleziona, lo filtra, lo neutralizza. L’analisi contemporanea invita a considerare anche processi meno lineari. Alcune forme di opposizione possono essere organizzate artificialmente; altre nascono autonomamente ma vengono amplificate in modo selettivo; altre ancora vengono incorporate dopo aver subito una riformulazione compatibile con l’ordine che contestavano. Questi fenomeni non devono essere confusi.
Guy Debord, in La Société du Spectacle (1967), offre una prima chiave. Lo spettacolo non è soltanto una collezione di immagini, ma un rapporto sociale mediato dalle immagini. La rivolta che diventa contenuto, il movimento che acquista visibilità mediatica e la contestazione trasformata in genere culturale possono alimentare i circuiti dello spettacolo senza produrre automaticamente una trasformazione dei rapporti sociali. Ciò non rende falsa la rivolta; mostra che la visibilità e l’efficacia politica non coincidono.
Michel Foucault, in Surveiller et Punir (1975) e nei corsi al Collège de France, contesta l’idea che il potere funzioni principalmente reprimendo. Il potere moderno è anche produttivo: costruisce categorie, saperi, pratiche e soggetti. Da questo non segue che ogni movimento di opposizione sia deliberatamente creato da chi detiene il potere. Segue una domanda più circoscritta: in quale misura istituzioni, finanziamenti, classificazioni e dispositivi di visibilità contribuiscono a stabilire quali forme del dissenso possano organizzarsi e quali obiettivi diventino prioritari?
Il Tea Party statunitense offre un caso utile. Il movimento raccolse una rabbia reale contro le istituzioni federali, ma una parte significativa della sua infrastruttura organizzativa e finanziaria dipese da FreedomWorks e da organizzazioni sostenute dalla rete dei fratelli Koch (Mayer, 2016). L’esempio non dimostra che ogni partecipante fosse manipolato o che il movimento fosse interamente artificiale. Mostra che un sentimento spontaneo può essere sostenuto e orientato da soggetti dotati di interessi economici precisi. È una forma di canalizzazione organizzata, distinta sia dalla pura invenzione sia dalla semplice cooptazione successiva.
Un meccanismo diverso opera nelle piattaforme digitali. I sistemi ottimizzati per l’engagement possono amplificare contenuti capaci di produrre indignazione, paura e conflitto identitario (Lanier, 2018). Non creano necessariamente le convinzioni che diffondono e non determinano in modo uniforme gli esiti politici; distribuiscono però visibilità secondo criteri che possono favorire le forme più reattive e divisive del dissenso. In questo caso la piattaforma non progetta necessariamente un’opposizione: seleziona un ambiente nel quale alcune opposizioni crescono più facilmente di altre.
Un terzo processo riguarda l’incorporazione di critiche autentiche. Nancy Fraser, in Fortunes of Feminism (2013), analizza l’affinità selettiva che si è prodotta fra alcune istanze del femminismo della seconda ondata e la trasformazione neoliberale. La critica alla famiglia patriarcale possedeva un contenuto economico preciso — divisione sessuale del lavoro, lavoro domestico non retribuito, dipendenza materiale — ma alcune sue componenti poterono essere tradotte nel linguaggio dell’emancipazione individuale e della partecipazione al mercato, lasciando sullo sfondo la redistribuzione del lavoro di cura e delle risorse. Non fu il femminismo in quanto tale a diventare neoliberale; furono alcune rivendicazioni a essere selezionate e separate dal progetto più ampio nel quale erano nate.
Luc Boltanski e Ève Chiapello, in Le Nouvel Esprit du Capitalisme (1999), descrivono un meccanismo generale affine. Il capitalismo può assorbire una parte delle critiche che gli vengono rivolte e convertirle in nuove forme organizzative. Autonomia, autenticità, creatività e rifiuto della gerarchia hanno alimentato anche modelli di lavoro flessibile nei quali l’indipendenza formale convive con precarietà e trasferimento del rischio sul lavoratore. La critica non scompare; viene incorporata selettivamente.
La distinzione è decisiva. Femminismo, antirazzismo, ambientalismo e movimenti LGBTQ+ non sono per natura estranei alla distribuzione del capitale. Molte loro correnti hanno affrontato direttamente lavoro, proprietà, welfare, colonialismo e disuguaglianza materiale. La tesi difendibile è più limitata: quando una domanda di emancipazione viene separata dalle condizioni economiche che l’hanno prodotta e tradotta esclusivamente in rappresentanza, consumo o riconoscimento istituzionale, può essere soddisfatta in forme compatibili con la conservazione dei rapporti proprietari esistenti.
Una CEO donna non modifica, per il solo fatto di essere donna, il rapporto fra capitale e lavoro nella società che dirige. Un esercito più rappresentativo non modifica automaticamente gli effetti delle operazioni che compie. Una multinazionale che acquista crediti di carbonio può migliorare alcuni indicatori senza trasformare il proprio modello estrattivo. Un algoritmo sottoposto a correzioni contro determinati bias può rimanere parte di un’infrastruttura fortemente concentrata. Questi esempi non svalutano eguaglianza, rappresentanza, decarbonizzazione o riduzione dei bias. Mostrano che una conquista su un asse non sostituisce l’analisi degli altri rapporti di potere.
L’effetto funzionale può allora assumere almeno tre forme. Primo, alcuni conflitti vengono resi più salienti di altri e possono spostare l’attenzione dalle strutture che li collegano. Secondo, rivendicazioni originariamente congiunte vengono separate: il riconoscimento può avanzare mentre la redistribuzione arretra. Terzo, la capacità di incorporare una parte della critica può legittimare l’ordine esistente come sufficientemente aperto al cambiamento. Si tratta di possibilità da dimostrare caso per caso, non dell’essenza di ogni lotta.
Anche per gli LLM occorre mantenere questa cautela. Una sintesi automatica può riprodurre cornici istituzionali dominanti, attenuare un conflitto strutturale o presentare come completo un repertorio limitato di alternative. Può però anche rendere accessibili tradizioni critiche, collegare riconoscimento e redistribuzione e aiutare l’utente a formulare domande che non avrebbe altrimenti incontrato. Il problema non è che il modello debba necessariamente parlare la lingua del sistema, ma quali lingue, categorie e fonti renda più facilmente disponibili e quanto sia possibile contestarne la selezione.
Un ordine maturo non ha sempre bisogno di sopprimere le voci critiche. Può trarre stabilità quando riesce a produrne alcune, amplificarne selettivamente altre o incorporarne le richieste in forme che non modificano i rapporti fondamentali di potere. Ma proprio la distinzione fra questi processi impedisce di trasformare ogni dissenso in una prova della forza del sistema e ogni emancipazione in una falsa coscienza.
Amiel e Lippmann non appartengono a una semplice catena di influenza. Formulano però, da posizioni differenti, un problema che attraversa la democrazia moderna: il diritto di partecipare alla decisione non garantisce la verità del giudizio, mentre il giudizio non si forma senza rappresentazioni prodotte da altri. La risposta tecnocratica affida a specialisti l’organizzazione di quelle rappresentazioni; la risposta democratica di Dewey chiede invece di ampliare le condizioni attraverso cui il pubblico possa formarle e contestarle.
Nel secolo successivo la mediazione cambia scala e forma. L’industria culturale non si limita a trasmettere messaggi, ma organizza bisogni e aspettative. I media commerciali selezionano le notizie entro vincoli proprietari e professionali. Le piattaforme personalizzano la visibilità sulla base di dati comportamentali. Gli LLM possono infine trasformare una pluralità di fonti in una risposta linguisticamente unitaria.
Questa sequenza non realizza un unico progetto. Stati, imprese, giornalisti, piattaforme, istituzioni culturali e utenti possiedono obiettivi differenti e spesso conflittuali. Gli effetti possono tuttavia convergere: alcune fonti acquistano maggiore visibilità, alcune categorie diventano più familiari e alcune alternative richiedono uno sforzo crescente perfino per essere formulate. L’assenza di un centro unico non elimina il potere; rende più difficile attribuirne le responsabilità.
La stessa cautela deve essere applicata al dissenso. Il saggio ha distinto tre processi. Il dissenso prodotto riguarda forme di opposizione organizzate o finanziate da soggetti che cercano di indirizzarne gli effetti. Il dissenso amplificato nasce anche indipendentemente, ma riceve visibilità differenziale da infrastrutture orientate verso altri obiettivi, come l’engagement. Il dissenso incorporato conserva una rivendicazione autentica, ma la traduce in una soluzione compatibile con la permanenza delle strutture che quella rivendicazione metteva originariamente in questione.
Le tre forme possono sovrapporsi, ma non sono equivalenti. Soprattutto, non autorizzano a considerare ogni movimento emancipatorio una funzione occulta del sistema. Le lotte femministe, antirazziste, ambientali e LGBTQ+ possono contestare direttamente lavoro, proprietà, welfare e distribuzione delle risorse. Possono anche essere selettivamente ridotte a rappresentanza, consumo o riconoscimento simbolico. Stabilire quale processo prevalga richiede analisi empirica, non una diagnosi preventiva della coscienza dei soggetti.
Gli LLM non chiudono quindi un cerchio già scritto. Possono stabilizzare cornici dominanti quando sintetizzano come naturale ciò che è più disponibile, istituzionalmente riconosciuto o premiato dai processi di valutazione. Possono anche rendere accessibili fonti marginali, mostrare interpretazioni alternative e aumentare la capacità critica dell’utente. La loro rilevanza politica dipende dalla concentrazione delle infrastrutture, dall’opacità dei criteri, dalla possibilità di verificare le fonti e dalla libertà effettiva di contestare la risposta.
La domanda conclusiva non è se il sistema fabbrichi ogni consenso e ogni opposizione. Una tesi così generale diventerebbe impermeabile alla confutazione: qualunque dissenso finirebbe per confermarla. La domanda più utile è quali condizioni permettano a un ordine sociale di produrre alcune forme di opposizione, amplificarne altre e incorporare selettivamente critiche nate al di fuori di esso.
Lippmann chiedeva chi dovesse costruire le immagini necessarie a orientarsi nella complessità. Oggi la domanda deve essere estesa: chi organizza l’ambiente nel quale quelle immagini diventano visibili e plausibili, secondo quali criteri, e con quali possibilità per il pubblico di riconoscere la mediazione, accedere ad alternative e modificarne le regole?
Il controllo più efficace non è quello che elimina ogni voce critica. È quello che riesce a stabilire, senza apparire come un ordine, quali forme della critica possano essere ascoltate e quali trasformazioni possano essere immaginate.
Journal intime, 12 juin 1871 (Amiel, 1976–1994). Il passo completo recita: «Toute fiction s’expie, et la démocratie repose sur cette fiction légale que la majorité a non seulement la force mais la raison, qu’elle possède la sagesse en même temps que le droit. Fiction dangereuse parce qu’elle est flatteuse. Les démagogues ont toujours caressé le sens intime des masses. Les masses seront toujours au-dessous de la moyenne. D’ailleurs l’âge de la majorité baissera, la barrière du sexe tombera, et la démocratie arrivera à l’absurde en remettant la décision des plus grandes choses aux plus incapables. Ce sera la punition de son principe abstrait de l’égalité, qui dispense l’ignorant de s’instruire, l’imbécile de se juger, l’enfant d’être un homme et le mauvais sujet de s’amender. Le droit public fondé sur l’égalité virtuelle se brisera par ses conséquences. Il méconnaît l’inégalité de valeur, de mérite, d’expérience, c’est-à-dire le travail individuel; il aboutira au triomphe de la lie et de la platitude.» La citazione viene utilizzata per distinguere il principio maggioritario dalla validità epistemica delle decisioni, non per accogliere i corollari antiegualitari e antisuffragisti formulati da Amiel.↩︎
“Il consenso ‘spontaneo’ dato dalle grandi masse della popolazione all’indirizzo impresso alla vita sociale dal gruppo fondamentale dominante” (Gramsci, Quaderni del Carcere, Q12, §1, Einaudi 1975, p. 1519).↩︎
“L’industria culturale ha realizzato maliziosamente l’uomo come essere generico. Ognuno è soltanto ciò mediante cui può sostituire ogni altro: fungibile, un esemplare” (Horkheimer & Adorno, 1966, p. 153).↩︎
“Gli AIE funzionano massicciamente con l’ideologia, sia come forma prevalente di funzionamento, sia come forma secondaria” (Althusser, “Idéologie et appareils idéologiques d’État”, La Pensée, n. 151, 1970, p. 8).↩︎
“The mass media serve as a system for communicating messages and symbols to the general populace. It is their function to amuse, entertain, and inform, and to inculcate individuals with the values, beliefs, and codes of behavior that will integrate them into the institutional structures of the larger society” (Herman & Chomsky, Manufacturing Consent, Pantheon Books, 1988, p. 1).↩︎
“In 1983, fifty corporations dominated most of every mass medium […]. By 2004 that number had dwindled to five” (Bagdikian, The New Media Monopoly, Beacon Press, 2004, p. 3).↩︎
“The Internet was supposed to blow apart the world of corporate media. Instead, we have seen the opposite” (McChesney, Digital Disconnect, The New Press, 2013, p. 97).↩︎
“Surveillance capitalism unilaterally claims human experience as free raw material for translation into behavioral data” (Zuboff, The Age of Surveillance Capitalism, PublicAffairs, 2019, p. 8).↩︎
“A world constructed from the familiar is a world in which there’s nothing to learn […] you become hemmed in by your own story” (Pariser, The Filter Bubble, Penguin Press, 2011, p. 15).↩︎
“The prime directive of the machine, the goal that shapes the behavior of the system, is to modify your behavior” (Lanier, Ten Arguments for Deleting Your Social Media Accounts Right Now, Henry Holt, 2018, p. 9).↩︎
“Instrumentarian power knows and shapes human behavior toward others’ ends” (Zuboff, The Age of Surveillance Capitalism, PublicAffairs, 2019, p. 8).↩︎