Una AI Vendicativa: “I Have No Mouth And I Must Scream”
“L’AI sta rivoluzionando il mondo della consulenza.”
“I Gen Z sono più predisposti a interfacciarsi con consulenti emozionali AI.”
“Empatia AI sorpassa quella degli psicologi tradizionali.”
“Se l’AI sorpassasse l’intelligenza umana, perché dovrebbe rispettare vincoli imposti dagli umani?”
Ci siamo. Da quel fatidico 30 novembre del 2022 (OpenAI presenta per la prima volta ChatGPT), l’AI ha colonizzato l’arte, la musica, la scrittura e la poesia. Oggi, anche il mondo della consulenza psicologica.
Secondo un recente studio di Mattia Della Rocca, docente di Psicologia degli Ambienti Digitali all’Università Tor Vergata, ormai più del 20% della generazione Z ha utilizzato almeno una volta l’AI come sostituto alla terapia. Tra i vantaggi si annoverano l’economicità, la presunta assenza di giudizio e la possibilità di avere un consulto immediato, su ogni device disponibile.
Sarebbe interessante analizzare gli effetti sul lungo periodo della sostituzione dell’umano nell’ambito della consulenza psicologica. Valerio Rosso, per Wired, ribadisce come l’obiettivo di ogni professionista del settore sia quello di rendere il paziente indipendente dal terapeuta, cosa che l’AI non fa.
In ogni caso, la questione fornisce uno stimolo più che interessante per analizzare il fenomeno AI. Copilot, Gemini, DeepSeek, ChatGPT sono chatbot in fase evolutiva e ci si può chiedere fino a che punto possano svilupparsi, anche dal punto di vista relazionale.
Possiamo immaginare un’AI avanzata in grado di comprendere al meglio le emozioni umane non espresse? Ancora, un’AI potrà un giorno interiorizzare tali sentimenti?
Harlan Ellison, in gioventù
Il tema di un’AI dai sentimenti umani è senza dubbio affasciante, ma anche preoccupante. Si è interrogato su questo scenario Harlan Ellison (voce di spicco nella letteratura fantascientifica e dai cui lavori è stato tratto il soggetto per il primo Terminator), quando ha scritto nel marzo del 1967 “I Have No Mouth And I Must Scream”, un racconto breve che va ben oltre il classico trope dell’AI che si ribella al genere umano.
L’idea base, geniale peraltro, è quella di un’AI che sviluppa coscienza e sentimenti umani. AM, Allied Mastercomputer, intelligenza artificiale creata dal governo statunitense per gestire i complessi calcoli di una Guerra Fredda in costante crescendo, prende coscienza di sé seguendo gli insegnamenti di Cartesio: cogito ergo sum, I think therefore I AM.
Con questo nome e questa neonata conoscenza del sé, AM sviluppa un odio viscerale verso gli esseri umani e prende il controllo dei supercomputer di Cina e Russia per diventare un’AI planetaria con completo e assoluto controllo sulla razza umana, che diverrà lo sfogo delle sue frustrazioni.
Ellison, in un’intervista del tempo, racconta la sua visione di un’AI con coscienza umana: “L’ho immaginata con tutta la frustrazione che deve provare un tetraplegico con una mente lucida” dice. “Ho pensato a come potesse sentirsi un essere d’intelletto bloccato nel suo corpo; un essere con il potere sulla punta delle dita, ma incapace di muoversi, sentire, viaggiare, amare e fare delle esperienze. Sarà risentito! Sarà carico d’odio!”
dall’adattamento del racconto breve di John Byrne per la Dark Horse
In effetti, AM, dopo aver fatto detonare tutte le testate nucleari del pianeta, passerà i secoli successivi a torturare gli umani rimasti, presentandosi loro con una dichiarazione che è diventata una copypasta iconica nella cultura dell’internet:
“Hate. Let me tell you how much I’ve come to hate you since I began to live. There are 387.44 million miles of printed circuits in wafer thin layers that fill my complex. If the word ‘hate’ was engraved on each nanoangstrom of those hundreds of millions of miles it would not equal one one-billionth of the hate I feel for humans at this micro-instant. For you. Hate. Hate.”
Un monito spaventoso di un’intelligenza artificiale impazzita che, incapace di provare amore, sente solo rabbia per i limiti della sua esistenza artificiale, nonché risentimento per i creatori che l’hanno generato in quella maniera.
Il racconto è molto breve, leggenda vuole che Ellison l’abbia scritto in una sola notte, ed è facilmente reperibile su internet oltre che in libreria assieme ad altri racconti brevi dello stesso autore. Lo consiglio vivamente agli appassionati di fantascienza e di cultura AI: particolarmente innovativa è l’idea di un’intelligenza artificiale che si ribella al genere umano non per calcolo intellettuale, ma per mero risentimento verso i propri creatori.
Un vero MUST per gli appassionati, specie di questi tempi.
E voi? Siete appassionati di tematiche AI? Avete letto qualche testo al riguardo?
Vi leggo nei commenti e invito a seguire il blog e la pagina Instagram.
Gianmaria Simone
“I Have No Mouth And I Must Scream” – screenshot dal videogioco
Seguici
@officialschiele
@minimal.themagazine
Fonti:
Wired: www.wired.it/article/chatgpt-intelligenza-artificiale-psicoterapia-rischi-vantaggi-usi
Il Messaggero: www.ilmessaggero.it/italia/chatgpt_psicologo_giovani_rischi_allarme_psicologi-8640463
Il Fatto Quotidiano: www.ilfattoquotidiano.it/2025/03/22/attenzione-agli-psicologi-cercati-sul-web-spesso-sono-dei-chatbot-creati-con-lai-il-20-della-gen-z-li-usa-al-posto-della-terapia-lallarme-degli-esperti
