Manipolazione cognitiva, trasformazioni sociali e interessi geopolitici. Che cosa mostrano le ricerche e i programmi militari, perché molte interfacce si somigliano e da quali condizioni dipende la nostra autonomia.

Chi programma un’intelligenza artificiale interviene sulle condizioni nelle quali le persone formeranno un’opinione, impareranno qualcosa e prenderanno una decisione. La progettazione stabilisce che cosa viene mostrato per primo, quali risposte sembrano autorevoli e quanto sia facile percorrere una strada diversa. Attraverso l’uso quotidiano, queste scelte possono diventare abitudini collettive. La questione riguarda perciò il potere esercitato sulla nostra attenzione e sulle opportunità concrete di agire.

Immaginiamo una generazione di studenti abituata a ricevere una prima spiegazione dall’IA, oppure un’azienda nella quale ogni proposta debba essere valutata da un assistente automatico. In entrambi i casi può nascere l’abitudine a chiedere al sistema da dove cominciare. L’adozione diventa particolarmente vincolante quando la scuola, il datore di lavoro o il servizio pubblico ne fanno un passaggio necessario. A quel punto, l’adattamento del singolo risponde a una regola dell’ambiente in cui vive.

Per parlare di manipolazione cognitiva occorre precisare il significato delle parole. Una comunicazione può cercare apertamente di convincerci, fornendo argomenti che possiamo discutere. Il rischio manipolativo cresce quando vengono nascosti lo scopo dell’influenza o gli interessi di chi la esercita, oppure quando si sfruttano vulnerabilità personali per indebolire una scelta consapevole. Un errore del modello, una raccomandazione utile e un tentativo deliberato di manipolazione richiedono verifiche differenti. Confonderli impedisce di individuare responsabilità precise.

La somiglianza tra le interfacce merita attenzione, partendo da un’osservazione circoscritta: molti assistenti conversazionali presentano una conversazione centrale, un campo nel quale scrivere e una cronologia degli scambi. Le interfacce dell’IA, però, comprendono anche comandi vocali, strumenti inseriti nei documenti e sistemi che lavorano senza una chat. La ricerca sull’interazione tra esseri umani e IA considera da tempo una varietà di prodotti e situazioni d’uso. Parlare di un unico layout per tutte le intelligenze artificiali attribuirebbe uniformità a un insieme molto più ampio. [1]

Una spiegazione plausibile della convergenza delle chat è l’adozione di una forma già familiare grazie alla messaggistica. La sequenza domanda e risposta riduce ciò che l’utente deve imparare; un’interfaccia riconoscibile può favorire l’adozione commerciale. Si aggiungono l’imitazione delle soluzioni diffuse e l’uso di componenti grafici condivisi. Sono ragioni progettuali ed economiche, non una dimostrazione delle intenzioni di ciascun produttore. Per attribuire la somiglianza a un coordinamento occulto servirebbero documenti e collegamenti verificabili tra i soggetti coinvolti.

Quella forma ha comunque conseguenze da esaminare. Una risposta esposta attraverso una sola voce può presentare una sintesi come se fosse il punto di vista naturale sull’argomento. Le selezioni compiute a monte, comprese le fonti escluse, possono restare poco visibili. La grafica ordinata non certifica la verità del contenuto, ma può accompagnare un’esperienza nella quale il lavoro di confronto appare già concluso. Il problema progettuale consiste nel rendere riconoscibili le prove, le incertezze e gli eventuali disaccordi.

La forma dialogica può inoltre sollecitare risposte sociali. Negli esperimenti di Clifford Nass, Jonathan Steuer ed Ellen Tauber, pubblicati nel 1994, alcuni partecipanti applicavano ai computer norme di cortesia e valutazioni proprie delle relazioni umane, pur sapendo di interagire con macchine. È un precedente sperimentale importante, da distinguere dalle prove sui chatbot contemporanei. Suggerisce che la consapevolezza tecnica, da sola, non impedisce di reagire socialmente a una voce o a un linguaggio che presentano segnali umani. [2]

Anche la familiarità con un contenuto può contare. Pennycook, Cannon e Rand hanno mostrato sperimentalmente che una precedente esposizione a titoli di notizie false poteva aumentarne la credibilità percepita, con effetti osservati anche a distanza di una settimana. Il risultato riguarda materiali e condizioni specifici, ma indica un meccanismo rilevante per gli ambienti informativi. Se una stessa narrazione viene riproposta attraverso molte risposte e canali, è ragionevole indagare quanto la sua riconoscibilità contribuisca a farla apparire attendibile. [3]

Una possibilità ulteriore riguarda il punto dal quale iniziamo a ragionare. Se il sistema produce subito una proposta completa, il nostro lavoro può concentrarsi sulla sua correzione, lasciando inesplorate impostazioni alternative. Immaginiamo una decisione organizzativa presentata attraverso un elenco di tre opzioni: l’utente potrebbe discutere quale scegliere senza chiedersi quali possibilità siano rimaste fuori. Questa è un’ipotesi sul funzionamento della scelta, da verificare nei singoli contesti. Mostra perché l’ordine con cui vengono presentate le informazioni appartiene alla responsabilità di chi progetta.

Sulla persuasione generata dall’IA esistono anche risultati diretti. Uno studio di Matz e colleghi, pubblicato nel 2024 su Scientific Reports e articolato in più esperimenti con 1.788 partecipanti complessivi, ha rilevato una maggiore efficacia di messaggi adattati a caratteristiche psicologiche dei destinatari rispetto a messaggi non personalizzati, con differenze tra condizioni. Gli esiti riguardavano atteggiamenti, valutazioni e intenzioni dichiarate. Il lavoro documenta una capacità persuasiva, senza dimostrare che un sistema possa prevedere o determinare ogni comportamento individuale. [4]

Nel 2025 Salvi e colleghi hanno studiato la persuasione in dibattiti brevi con 900 partecipanti. La condizione con GPT-4 e informazioni personali sull’interlocutore risultava più persuasiva del confronto umano di riferimento. Una correzione pubblicata nel settembre 2026 ha però chiarito che il confronto diretto tra GPT-4 personalizzato e GPT-4 non personalizzato non raggiungeva la significatività statistica. Il vantaggio osservato rispetto agli esseri umani non può quindi essere attribuito con certezza alla sola personalizzazione. Anche una critica severa dell’IA deve rispettare questi limiti. [5, 6]

In uno scenario di abuso, la disponibilità di informazioni sulla persona potrebbe rendere più mirata l’influenza. Una cronologia di conversazioni, se raccolta e accessibile a chi gestisce il sistema, può contenere preferenze e preoccupazioni espresse dall’utente. Da questi dati si possono tentare inferenze, che rimangono fallibili e dipendono dal contesto. La questione da verificare è chi acceda a quali informazioni e con quali finalità. L’ipotesi di un uso manipolativo richiede di accertare la raccolta effettiva e il collegamento tra i dati e le risposte proposte.

Dal punto di vista delle neuroscienze, occorre separare i livelli di evidenza. Una modifica nelle risposte a un questionario è una misura comportamentale; un segnale elettroencefalografico registra un aspetto dell’attività cerebrale. Nessuna delle due misure, isolatamente, dimostra una perdita generale di autonomia. Gli studi qui esaminati non provano che il campo di testo in basso, un colore o la comparsa progressiva delle parole attivino un meccanismo universale di sottomissione. Attribuire loro specifici effetti dopaminergici richiederebbe esperimenti che misurino proprio quei processi.

Un fenomeno cognitivo pertinente è la distribuzione del lavoro tra la persona e un supporto esterno. Già nel 2011, negli esperimenti di Sparrow, Liu e Wegner, l’aspettativa di poter recuperare successivamente un’informazione si associava a un minore ricordo del contenuto e a un migliore ricordo di dove trovarlo. Il risultato aiuta a comprendere come l’accesso a una risorsa possa cambiare la strategia di memoria. Applicarlo all’IA richiede ulteriori verifiche, soprattutto quando deleghiamo anche l’elaborazione di una risposta. [7]

Lo studio Your Brain on ChatGPT, presentato come preprint da Kosmyna e colleghi, ha confrontato la scrittura di saggi con un modello linguistico, con un motore di ricerca e senza questi strumenti. Ha coinvolto 54 partecipanti nelle prime tre sessioni e 18 nella quarta. Il gruppo assistito dall’IA mostrava, secondo le analisi degli autori, connettività EEG meno estesa e maggiori difficoltà a citare il proprio testo. Campione ridotto, compito specifico e interpretazione delle misure limitano le conclusioni; un commento metodologico successivo ha sollevato ulteriori criticità. Il lavoro non dimostra danni cerebrali né spiega gli effetti di un layout condiviso. [8, 9]

L’apprendimento può essere studiato anche osservando ciò che una persona riesce a fare quando l’assistenza viene rimossa. In un esperimento sul campo pubblicato su PNAS nel 2025, quasi mille studenti di matematica hanno utilizzato strumenti basati su GPT-4 con modalità differenti. Il gruppo con accesso alla versione di base migliorava durante la pratica assistita, ma nella prova successiva senza strumenti otteneva risultati inferiori del 17% rispetto al controllo. Il tutor progettato con indicazioni degli insegnanti attenuava sostanzialmente quell’effetto. Il dato riguarda quell’esperimento e mostra quanto conti la modalità di assistenza. [10]

Nel lavoro professionale, un’indagine presentata a CHI 2025 su 319 lavoratori ha associato una maggiore fiducia nell’IA a un minore esercizio dichiarato del pensiero critico. Gli autori descrivono anche uno spostamento dello sforzo verso la verifica e l’integrazione delle risposte. Si tratta di un’indagine basata su resoconti personali, che non stabilisce da sola un rapporto causale. Offre però una ragione concreta per domandarsi se l’organizzazione lasci alle persone tempo, competenze e autorità sufficienti per controllare ciò che approvano. [11]

Sul piano sociologico, la dipendenza può formarsi attraverso richieste perfettamente ordinarie. Se la produzione di una bozza diventa immediata, il datore di lavoro può attendersi consegne più rapide. Il tempo risparmiato nella generazione potrebbe allora essere assorbito da nuove richieste, lasciando meno spazio alla verifica. La pressione verso l’adesione al risultato automatico nascerebbe dal sistema di incentivi. Un processo del genere non richiede un ordine segreto: richiede che la velocità venga premiata più della qualità del controllo.

Un’altra trasformazione riguarda il modo in cui le persone descrivono se stesse. Quando l’accesso a un’opportunità passa attraverso categorie e valutazioni automatiche, può diventare conveniente adottare il linguaggio che il sistema riconosce meglio. Un candidato potrebbe riscrivere la propria esperienza per adattarla a un profilo; un operatore potrebbe trascurare una circostanza difficile da registrare. È un rischio di normalizzazione: la rappresentazione richiesta dalla procedura finisce per influenzare ciò che viene considerato rilevante nella realtà.

Questa capacità di stabilire rilevanza ha un significato politico. Se poche infrastrutture diventano il passaggio abituale per informarsi, chi ne definisce i criteri può esercitare un’influenza sulla visibilità degli argomenti. La concentrazione di tale funzione merita un esame anche quando non vi sia una singola intenzione manipolativa. Occorre capire quanto siano accessibili fonti alternative e quanto l’utente possa riconoscere l’origine di una sintesi. Il pluralismo dipende anche dalla possibilità di confrontare interpretazioni prodotte con criteri differenti.

Gli interessi geopolitici entrano in gioco quando queste infrastrutture sostengono attività essenziali. L’accesso ai sistemi, la disponibilità dei dati e la possibilità di sostituire un fornitore diventano questioni di autonomia per organizzazioni e Stati. Una scuola o un’amministrazione che perde le competenze per ricostruire un procedimento può trovarsi vincolata a decisioni prese altrove. È una forma possibile di dipendenza strategica, che va misurata attraverso contratti, capacità effettive e alternative operative, senza dedurla semplicemente dall’aspetto di una pagina.

L’interesse militare per l’influenza cognitiva è esplicito in documenti pubblici. Nel marzo 2026 ACT e SHAPE hanno annunciato una NATO Innovation Challenge dedicata all’Agentic AI for Cognitive Warfare. La presentazione indica strumenti destinati a rafforzare capacità narrative, psicologiche e decisionali per ottenere un vantaggio cognitivo sull’avversario in crisi e conflitti. Questo documento attesta un obiettivo di ricerca e sviluppo militare. Non attesta che i comuni assistenti commerciali siano stati progettati insieme per controllare la popolazione, né dimostra l’efficacia operativa delle soluzioni ricercate. [12]

Anche il programma DARPA Social Media in Strategic Communication, oggi concluso, documenta un interesse per l’analisi dei flussi informativi, delle opinioni e delle narrazioni culturali. La finalità dichiarata era individuare campagne di disinformazione e contrastarle con informazioni veritiere; il programma prevedeva vincoli legali ed etici. Questi elementi descrivono una ricerca strategica sull’ambiente sociale. Una valutazione critica può esaminarne obiettivi e applicazioni, mantenendo distinta la finalità pubblicamente dichiarata da eventuali usi ulteriori che richiederebbero prove autonome. [13]

Esistono inoltre casi concreti di presunto impiego dell’IA in operazioni di influenza. Nel luglio 2024 il Dipartimento di Giustizia statunitense annunciò azioni contro una rete di 968 account social collegata, secondo gli atti investigativi citati, a un’operazione sostenuta da soggetti russi. La ricostruzione descriveva l’uso dell’IA per creare identità fittizie e diffondere contenuti favorevoli agli obiettivi del governo russo. È un’attribuzione delle autorità statunitensi relativa a un caso specifico, da distinguere da una sentenza definitiva o da una misura dell’effetto sulle opinioni del pubblico. [14]

La guerra informativa va a sua volta distinta dalle neurotecnologie. Il programma DARPA N3, descritto pubblicamente nel 2019, finanziava lo sviluppo di interfacce cervello macchina con dispositivi dedicati e possibili applicazioni militari. Prevedeva approcci fisici per registrare o modulare attività neurale. Quel documento non fornisce una prova di capacità equivalenti attraverso una normale chat. Nel dibattito pubblico, unificare propaganda, persuasione conversazionale e interfacce neurali sotto un’unica idea di controllo mentale nasconde differenze tecniche decisive. [15]

Alla domanda sull’esistenza di un disegno di controllo, le fonti esaminate consentono quindi una risposta delimitata. Documentano capacità persuasive, programmi strategici e operazioni di influenza attribuite ad attori specifici. Non dimostrano un piano unitario dietro tutte le IA o dietro la somiglianza delle loro interfacce. Resta possibile che soggetti diversi perseguano obiettivi di influenza, anche concorrenti. La verifica deve riguardare ciascun sistema e ciascuna organizzazione, attraverso evidenze relative alle finalità, ai finanziamenti e all’impiego effettivo.

Per indagare seriamente un’intenzione manipolativa servono elementi controllabili. Sono rilevanti le istruzioni operative documentate, l’eventuale accesso a dati personali, i criteri con cui vengono favorite alcune risposte e gli esperimenti indipendenti sugli effetti. Una singola risposta sgradita non basta a distinguere un errore da una regola del servizio o da un orientamento deliberato. Le valutazioni dovrebbero essere ripetibili e confrontare spiegazioni alternative. È questo lavoro che permette di trasformare un sospetto in una conclusione sostenibile, oppure di scartarlo.

Il verbo dominare, applicato all’IA, diventa più utile se descrive condizioni osservabili. Un sistema può restringere l’autonomia quando rende invisibili alternative rilevanti, sfrutta un rapporto di fiducia o diventa indispensabile per ottenere un servizio. Gli effetti rimangono probabilistici e dipendono dalle persone, dal contesto e dalle possibilità di opposizione. Sul piano collettivo, anche influenze limitate possono meritare attenzione quando interessano decisioni importanti e molti utenti. La loro portata va misurata, senza presupporre un’obbedienza automatica.

La progettazione può anche sostenere l’autonomia. In un esperimento con 199 partecipanti, Buçinca e colleghi hanno osservato che interventi capaci di sollecitare una valutazione più attenta riducevano l’eccessivo affidamento a suggerimenti errati dell’IA rispetto a semplici spiegazioni. Le soluzioni più efficaci ricevevano però valutazioni soggettive meno favorevoli. È una tensione concreta: ciò che aiuta a riflettere può apparire meno comodo. Se la soddisfazione immediata guida ogni scelta, alcune condizioni utili al giudizio rischiano di essere eliminate. [16]

Un’organizzazione responsabile dovrebbe consentire di formulare una prima valutazione autonoma, confrontare fonti verificabili e chiedere una revisione umana capace di modificare l’esito. Dovrebbe inoltre conservare competenze e procedure sufficienti per cambiare sistema. La libertà di uscita ha bisogno di queste condizioni materiali. Anche la formazione dovrebbe preparare a riconoscere ciò che la risposta automatica lascia irrisolto e a decidere quando l’assistenza sia utile, con occasioni nelle quali il risultato venga raggiunto e spiegato personalmente.

Chi progetta e chi adotta un’intelligenza artificiale assume dunque una responsabilità verso le abitudini che rende convenienti e quelle che rende difficili. Una società può scegliere di usare questi sistemi per ampliare l’accesso alla conoscenza, lasciando verificabili gli interessi che ne orientano il funzionamento. La prova più concreta sarà la possibilità di dissentire con conseguenze reali: correggere una decisione, ottenere ascolto e continuare a partecipare alla vita sociale anche quando si decide di seguire una strada diversa da quella proposta dalla macchina.

Fonti e riferimenti

[1] Amershi S. et al. Guidelines for Human AI Interaction. CHI 2019. Ricerca e linee guida sull’interazione con prodotti di IA. Apri la fonte

[2] Nass C., Steuer J., Tauber E. R. Computers are Social Actors. CHI 1994, pp. 72–78. Testo degli autori. Apri la fonte

[3] Pennycook G., Cannon T. D., Rand D. G. Prior exposure increases perceived accuracy of fake news. Journal of Experimental Psychology General, 2018. DOI 10.1037/xge0000465. Apri la fonte

[4] Matz S. C. et al. The potential of generative AI for personalized persuasion at scale. Scientific Reports 14, 4692, 2024. DOI 10.1038/s41598-024-53755-0. Apri la fonte

[5] Salvi F., Horta Ribeiro M., Gallotti R., West R. On the conversational persuasiveness of GPT-4. Nature Human Behaviour 9, 1645–1653, 2025. Da leggere insieme alla correzione del 2026. Apri la fonte

[6] Salvi F. et al. Author Correction On the conversational persuasiveness of GPT-4. Nature Human Behaviour 10, 2047, 3 settembre 2026. DOI 10.1038/s41562-026-02588-0. Apri la fonte

[7] Sparrow B., Liu J., Wegner D. M. Google effects on memory cognitive consequences of having information at our fingertips. Science 333, 776–778, 2011. DOI 10.1126/science.1207745. Apri la fonte

[8] Kosmyna N. et al. Your Brain on ChatGPT Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task. Preprint arXiv 2506.08872, 2025. Presentazione, limiti e chiarimenti degli autori. Apri la fonte

[9] Stankovic M., Hirche E., Kollatzsch S., Doetsch J. N. Comment on Your Brain on ChatGPT. Commento metodologico, preprint arXiv 2601.00856, depositato il 29 dicembre 2025. Apri la fonte

[10] Bastani H. et al. Generative AI without guardrails can harm learning Evidence from high school mathematics. PNAS 122, e2422633122, 2025. DOI 10.1073/pnas.2422633122. Apri la fonte

[11] Lee H. P. et al. The Impact of Generative AI on Critical Thinking Self Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI 2025. DOI 10.1145/3706598.3713778. Apri la fonte

[12] NATO Allied Command Transformation Innovation. 18th Challenge Kicks Off Cognitive Advantage from AI Systems. Presentazione dell’Innovation Challenge Agentic AI for Cognitive Warfare, marzo 2026. Apri la fonte

[13] DARPA. Social Media in Strategic Communication SMISC. Scheda ufficiale del programma concluso. Apri la fonte

[14] United States Department of Justice. Justice Department Leads Efforts Among Federal, International, and Private Sector Partners To Disrupt Covert Russian Government Operated Social Media Bot Farm. Comunicato del 9 luglio 2024 con riferimenti agli atti investigativi. Apri la fonte

[15] DARPA. Six Paths to the Nonsurgical Future of Brain Machine Interfaces. Descrizione del programma N3 e dei dispositivi di ricerca, 20 maggio 2019. Apri la fonte

[16] Buçinca Z., Malaya M. B., Gajos K. Z. To Trust or to Think Cognitive Forcing Functions Can Reduce Overreliance on AI in AI Assisted Decision Making. Proceedings of the ACM on Human Computer Interaction 5, CSCW1, 2021. DOI 10.1145/3449287. Apri la fonte