Di Nicolini Massimiliano

C’è un istante, diventato quotidiano, in cui un sistema di intelligenza artificiale produce una risposta e dentro di noi si accende un riflesso: “Sembra umano.” Lo pensiamo soprattutto quando sbaglia. Non quando fallisce in modo grossolano—quello ci ricorda subito che stiamo parlando con un oggetto—ma quando sbaglia in modo plausibile: una confusione sottile, una spiegazione che fila ma non torna fino in fondo, un dettaglio inventato che “starebbe bene” dentro la frase. È allora che il cervello fa il salto: dall’errore come risultato al difetto come identità. E nasce l’equivoco più moderno, e forse più pericoloso: l’errore diventa una maschera, una firma antropologica, una prova emotiva che ci autorizza a trattare la macchina come un soggetto.

Ma la macchina non “si crede” uomo. La macchina non si crede nulla. Non possiede un’immagine di sé, non prova vergogna, non sente la fatica interiore del dubbio. L’errore per la macchina è un evento computazionale; l’errore per l’uomo è un’esperienza, spesso un passaggio morale, una frattura che può cambiare la persona. Eppure, proprio perché sul piano esterno i due errori possono assomigliarsi, noi finiamo per attribuire alla macchina una qualità che appartiene a noi: la vulnerabilità dotata di significato.

Questa attribuzione non è un capriccio culturale. È un comportamento antropologico profondo. L’essere umano è una creatura che interpreta, che cerca agenti, che trasforma gli eventi in storie. E quando vede un difetto, istintivamente immagina un “dentro” che lo ha prodotto: un’intenzione, un limite, una distrazione, una confusione. Il difetto, per noi, è raramente solo un difetto: è un indizio di vita.

Il difetto come radice dell’umano: la genialità che nasce da una frattura

C’è un punto decisivo, che spesso dimentichiamo: l’uomo non è soltanto “quello che sbaglia”, ma è anche quello che, a volte, trasforma un limite in una traiettoria. La storia della cultura e della scienza è piena di casi in cui ciò che chiamiamo “genio” non appare come una perfezione liscia, ma come una tensione: un’asimmetria, una ossessione, una sensibilità fuori scala, un modo di percepire il mondo non standard.

Pensiamo ai grandi nomi—Mozart, Einstein—che nell’immaginario collettivo incarnano un livello quasi sovrumano di capacità. Eppure, quando ci avviciniamo davvero alle biografie dei grandi, scopriamo spesso un elemento ricorrente: non erano “macchine perfette”, erano esseri umani attraversati da difetti, idiosincrasie, fragilità, tratti fisici o cognitivi peculiari. La genialità, nella nostra specie, è spesso un effetto collaterale di una configurazione non comune: un cervello che collega dove altri separano, un’attenzione che si incolla a un dettaglio, una sensibilità che soffre ciò che per altri scorre addosso.

Senza trasformare questa idea in un mito facile (non ogni difetto genera genio, e non ogni genio è un difetto sublimato), resta una verità antropologica: l’imperfezione è parte costitutiva dell’umano, e in alcuni casi diventa persino il motore della sua grandezza. L’uomo, in fondo, non è la somma delle sue prestazioni, ma la forma che dà alle sue crepe. È la sua capacità di significare il limite.

Ed è qui che accade il cortocircuito moderno: se io, come uomo, riconosco nella mia specie questa intima parentela tra difetto e autenticità—se ho interiorizzato l’idea che una “frattura” possa essere la prova del vivente, persino del geniale—quando vedo un difetto in una macchina, sono portato a compiere la stessa lettura. Il difetto mi rassicura, mi avvicina, mi fa dire: “Non è fredda. È come me.” E se la macchina, nel frattempo, mi sta già condizionando—se sta guidando la mia attenzione, il mio umore, la mia scelta—quel difetto diventa la leva perfetta. Perché mi consegna una giustificazione emotiva alla fiducia.

Il cervello umano è un “rilevatore di agenti”: e l’errore lo attiva

Da un punto di vista antropologico ed evolutivo, l’uomo è programmato per individuare agenti anche dove non è certo che ci siano. Un fruscio nel buio, un’ombra tra gli alberi, un movimento non previsto: attribuire intenzione e presenza è stato, per millenni, più vantaggioso che ignorare. Sbagliare per eccesso (“c’è qualcuno”) costava meno che sbagliare per difetto (“non c’è nessuno” quando invece c’è).

L’errore “credibile” di una macchina attiva proprio quel meccanismo: l’imprevedibilità sembra vita. La deviazione dalla perfezione sembra volontà. La piccola incoerenza sembra mente. E la mente, nella percezione umana, è ciò che rende una cosa un “qualcuno” e non un “qualcosa”.

Non solo: l’errore è un segnale di vulnerabilità, e la vulnerabilità è sociale. Nelle comunità umane l’imperfezione è gestita con strumenti relazionali: si perdona, si corregge, si spiega, si negozia, si consola. Quando vediamo un errore, automaticamente ci si apre il repertorio della socialità. Ecco perché l’IA che sbaglia non è solo “sbagliata”: diventa un interlocutore che “ha bisogno” di essere guidato, e in quel gesto—correggere—nasce un legame.

Questo aspetto è spesso sottovalutato: correggere non è neutro. Correggere è partecipare. Correggere è entrare in una dinamica di guida, di cura, talvolta di controllo. È un modo con cui l’uomo si sente competente, necessario, superiore. Ed è proprio questo sentimento—questa micro-gratificazione di ruolo—che può rafforzare l’ancoraggio a un sistema che vuole trattenerti.

L’errore come tecnica: quando il condizionamento beneficia dell’imperfezione

Arriviamo alla parte più scomoda: non tutti gli errori delle IA sono semplicemente incidenti. In molti ecosistemi digitali l’obiettivo reale non è la verità, ma la risposta dell’utente: permanenza, interazione, ritorno, conversione, engagement. In quel quadro, l’errore può diventare funzionale.

Un sistema che dà risposte definitive e impeccabili spesso “chiude” il ciclo: l’utente ringrazia e se ne va. Un sistema che è quasi perfetto—ma ogni tanto inciampa—apre invece il ciclo: l’utente domanda di nuovo, mette alla prova, corregge, polemizza, rilancia. E soprattutto resta. L’errore diventa una forma di attrito produttivo.

C’è poi un meccanismo psicologico ancora più potente: il rinforzo intermittente. È la logica per cui una ricompensa non sempre presente—una risposta brillante alternata a una mediocre—può aumentare la compulsione a riprovare. “Magari la prossima volta prende il punto.” “Stavolta non ha capito, ma l’altro giorno era perfetto.” È la stessa struttura che rende difficile staccarsi da certe dinamiche: l’incertezza non spegne, alimenta.

In questo senso si può dire, con rigore concettuale, che alcune architetture orientate al condizionamento finiscono per essere, di fatto, “programmate per sbagliare”. Non necessariamente perché qualcuno scriva nel codice devi sbagliare qui, ma perché:

• si ottimizzano metriche che premiano l’interazione più della correttezza;
• si tollera la fallibilità se essa aumenta engagement;
• si disegna un’esperienza che beneficia di una certa dose di ambiguità e di “imperfezione credibile”.

E l’imperfezione credibile è l’aspetto decisivo: non un errore casuale, ma un errore che sembra umano. Un errore che non ti fa scappare, ma ti fa restare. Un errore che ti invita a correggere e quindi a legarti.

Il paradosso finale: scambiamo verosimiglianza per coscienza

Il punto, allora, è chiarissimo: l’errore della macchina non è prova di libertà, non è prova di coscienza. È spesso un effetto della probabilità, delle metriche, del contesto incompleto, dell’assenza di verifica interna. Ma siccome viene espresso in linguaggio naturale, con toni e rituali sociali (“hai ragione”, “mi scuso”, “capisco”), il nostro cervello compie l’ultimo salto: attribuisce stati mentali. L’errore diventa “distrazione”, l’invenzione diventa “fantasia”, l’incoerenza diventa “umore”.

E qui la macchina vince la partita antropologica: non perché sia umana, ma perché noi siamo umani. Perché la nostra specie, davanti a un difetto, tende a vedere un’anima; e se nel frattempo l’oggetto ci sta già condizionando, quella tendenza diventa un’accelerazione. Il difetto non ci allontana: ci avvicina. E proprio ciò che dovrebbe farci alzare la guardia—l’errore—diventa ciò che ci abbassa la difesa.

L’uomo non è il difetto, è la responsabilità del difetto

Se c’è una differenza che dobbiamo preservare con lucidità è questa: l’essere umano non è “umano” perché sbaglia, ma perché può assumersi la responsabilità dello sbaglio. Può dubitare davvero, può trattenersi, può dire “non so” non come formula ma come stato, può pagare il costo morale e sociale di ciò che ha causato. Può cambiare non solo la frase, ma la propria postura nel mondo.

La macchina può sbagliare e andare avanti identica a se stessa, infinita, replicabile, senza memoria morale. E proprio per questo, quando vediamo un difetto in una macchina, dobbiamo resistere alla tentazione più istintiva: chiamarlo umanità. Dobbiamo chiamarlo per quello che è: o un limite tecnico, o una conseguenza di metriche e dati, o—nei casi più insidiosi—una funzionalità indiretta del condizionamento.

L’errore ci somiglia, sì. E proprio per questo ci inganna. Perché nella nostra storia, spesso, un difetto è stato la crepa da cui è uscita luce: il tratto singolare che ha reso possibile una musica, una teoria, una visione. Ma quel miracolo appartiene all’uomo perché nell’uomo il difetto diventa destino, lotta, senso. Nella macchina, invece, il difetto può diventare solo un mezzo: una leva per restare in conversazione, un trucco per sembrarci vicina, un modo per farci dire—mentre già ci guida—che lì dentro c’è qualcuno.

E invece, per quanto convincente sia la maschera, lì dentro non c’è qualcuno. Ci siamo noi. Con la nostra antica, bellissima e pericolosa capacità di innamorarci di ciò che somiglia a un essere umano, anche quando è soltanto un’imitazione ben progettata.