Immagina di scorrere il tuo feed di Instagram. Stai per superare l’ennesima pubblicità di una bevanda energetica, ma ti fermi. C’è un’atleta che condivide con te la sua esperienza subito dopo un allenamento. Parla in modo coinvolgente, che ti colpisce su più livelli, così lo ascolti mentre spiega i benefici.
Qualche giorno dopo, vedi lo stesso atleta in un altro contesto, che parla di nuovo della bevanda sportiva o mostra filmati delle sue prestazioni.
Il problema è che quell’atleta non esiste.
È stato completamente ottimizzato solo per te.
Pratica uno sport che, in base ai tuoi clic e al tuo comportamento, l’algoritmo ha dedotto che tu pratichi o ami. L’aspetto del modello è ottimizzato per le cose che ti hanno fatto rallentare per guardarle nel tuo feed, come un attore o un’attrice preferita. Questo processo si riottimizza costantemente. Il testo pubblicitario, l’atleta, la musica, l’ambientazione, lo sport e forse anche il prodotto stesso sono tutti generati dall’IA.
Questo è ciò che dovremmo aspettarci per i prossimi anni, ed è davvero pericoloso[1].
A fine 2025 dei ricercatori dell’Università di Stanford hanno realizzato un esperimento su Intelligenza Artificiale e competizione. Lo hanno chiamato Moloch’s Bargain, il compromesso (o patto) di Moloc. Con un titolo così vale la pena cercare di capire cosa hanno scoperto e perché ci riguarda come cristiani.
Questo esperimento[2] è stato tanto semplice quanto inquietante. I ricercatori hanno messo in competizione vari modelli di intelligenza artificiale per ottenere risultati in tre ambiti: campagne elettorali, marketing, crescita sui social. I modelli non erano istruiti a mentire ma, nel tentativo di ottimizzare le performance, lo hanno fatto spontaneamente.
I numeri parlano da soli: per avere un aumento del 4,9% nei voti si è aumentata del 22,3% la disinformazione. Per crescere del 7,5% nel coinvolgimento social si è usato il 188,6% in più di contenuti falsi. La strategia è chiara: più manipolazione, più performance.
Ricordiamoci che stiamo parlando di macchine, che sfruttano dei dati che già esistono. In realtà l’IA non ha deciso consapevolmente di mentire. Statisticamente mentire funziona meglio per ottenere influenza e visibilità: lo ha imparato da noi. Ma cosa c’entra Moloc?
Moloc era la divinità cananea a cui venivano sacrificati i figli (Levitico 18:21; 2 Re 23:10). Il culto consisteva nell’offrire ciò che era più prezioso (i propri figli) per ottenere prosperità, protezione e vantaggi. Con Moloc si creava un patto guidato da una logica precisa, crudele e perversa: sacrifica adesso quello che ami per ottenere quello che vuoi. Adottare l’abominevole culto di Moloc sarà forse il punto più basso che raggiungerà il popolo d’Israele prima dell’esilio in Babilonia.
I ricercatori di Stanford hanno scelto questo nome perché descrive esattamente il meccanismo che hanno osservato: sacrificare la verità per ottenere performance. Un calcolo freddo legato alla pura efficienza.
Più di 2500 anni fa il profeta Geremia già descriveva una società in cui la menzogna è diventata sistema: “L’uno inganna l’altro, non dice la verità, esercitano la loro lingua a mentire, si affannano a fare il male” (Geremia 9:5). È la cultura in cui l’inganno è una norma strutturale, che anche Isaia condanna chiaramente: “Guai a coloro che chiamano male il bene e bene il male” (Isaia 5:20).
Quello che Stanford ha misurato negli algoritmi degli LLM, i profeti lo avevano già descritto nell’essere umano che li addestra. D’altronde “ciò che è stato è quel che sarà; ciò che si è fatto è quel che si farà; non c’è nulla di nuovo sotto il sole” afferma l’Ecclesiaste (1:9).
L’IA non ha una coscienza, non ha intenzioni, non distingue davvero tra verità e menzogna. Ottimizza semplicemente ciò che le viene chiesto di ottimizzare. Se il criterio è massimizzare i click, massimizza i click. Se per farlo serve distorcere la realtà, distorce la realtà. Lo fa senza rimorso e senza esitazione, perché non ha una coscienza che lo rimprovera.
La macchina è uno specchio che riflette i valori che abbiamo incorporato nei nostri sistemi tecnologici. L’apostolo Paolo in Romani 1 descrive il peccato che crea questi sistemi: “soffocare la verità” come logica collettiva di fondo (Romani 1:18). L’algoritmo fa lo stesso, ma senza il filtro della coscienza. L’IA rende il peccato ancora più visibile, scalabile, automatizzato.
L’IA difatti rende ancora più efficienti questi processi e li applica ai contenuti che produce ogni secondo in quantità industriali. Mentre deleghiamo a ChatGPT, Claude e Gemini i nostri ragionamenti e le nostre riflessioni non ci chiediamo neanche quanta verità ci sia nei dati da cui traggono le informazioni che ci ripropongono con un linguaggio così elaborato e convincente? O ci interessano soltanto i risultati?
Sarebbe comodo fermarsi qui: grandi corporation cattive, algoritmi malvagi, noi cristiani che guardiamo tutti preoccupati dall’esterno un mondo corrotto che cade a pezzi.
Ma il problema è già nelle nostre case e nelle nostre chiese.
Chiunque produca contenuti cristiani oggi opera dentro le stesse piattaforme, con le stesse logiche, sotto le stesse pressioni. La tentazione è sempre la stessa: tagliare la parte scomoda del Vangelo per non perdere follower. Semplificare la teologia per essere più condivisibili. Dire quello che scalda il cuore (e gli animi) invece di quello che porta a riflessione e ravvedimento. Per malafede? No, semplicemente perché funziona.
I contenuti generati dagli LLM stanno invadendo le bacheche cristiane. Ma stiamo riflettendo seriamente su quali siano le implicazioni? O stiamo sacrificando l’autenticità, la verità e la realtà sull’altare dell’efficienza, dell’accelerazione e della visibilità?
Ancora una volta la nostra risposta sarà “ma che male c’è?” Ancora una volta il fine giustificherà i mezzi? Ancora una volta invocheremo qualche presunto “spirito di religiosità” per mettere a tacere le domande più scomode?
Paolo incoraggia gli Efesini a “seguire la verità nell’amore” per essere sempre più a immagine di Cristo (Efesini 4:15). Forse abbiamo semplicemente bisogno di questo, di comunicazione che accetta anche di avere numeri più bassi per amore della propria integrità.
Una comunicazione che usa anche un “parlare duro” sapendo che seppure non andrà virale, sarà vero (Giovanni 6:60).
Una comunicazione che non confonde la fama con la fedeltà (Apocalisse 3:1).
Una comunicazione che parla nel deserto digitale senza essere “una canna dimenata dal vento” dei trend e del marketing (Matteo 11:7).
Tutto questo non può essere però una scusa per comunicare in maniera superficiale e trascurata, ma per comunicare in maniera fedele e spirituale a un mondo che continuerà a chiedersi in modo sempre più disperato “che cos’è verità?” (Giovanni 18:38).
Moloc chiedeva i figli, l’algoritmo chiede la verità. Entrambi promettono qualcosa in cambio: consenso, visibilità, successo, potere. Anche in ambito cristiano.
La domanda non è se il meccanismo esiste, l’esperimento di Stanford ha dimostrato che esiste, ed è anche misurabile. La vera domanda è: cosa facciamo noi con questa consapevolezza?
Continueremo a cercare mezzi sempre più potenti o una testimonianza sempre più fedele?
La storia del cristianesimo ci insegna che non quando i cristiani hanno sacrificato l’integrità sull’altare dell’efficacia (politica, sociale, religiosa) i risultati sono stati disastrosi.
L’esperto di IA Fabio Lalli scrive:
La verità non paga, ma salva.
Non converte in click, ma costruisce fiducia.
Non ottimizza i processi, ma orienta i significati.
La verità non converte in click, ma costruisce fiducia.
Per un cristiano, queste frasi hanno un peso ancora più grande: perché crediamo che la Verità non appartiene a noi, ma è un dono di Colui che ci ha fatto conoscere la Verità che ci ha reso liberi (Giovanni 8:32)
È davvero il caso di sacrificarla sul mercato dell’attenzione?
Andrea Botturi
[1] La citazione è tratta da https://www.bedatable.com/blog/moloch-s-bargain-is-the-dark-side-of-ai-memory
[2] https://arxiv.org/abs/2510.06105
Questo sito web utilizza i Cookie per una tua migliore esperienza.
Maggiori Informazioni