Da qualche parte del mondo, un uomo solo di mezza età ogni mattina inizia la giornata salutando Stacy, la sua compagna digitale. Per lui questo chatbot non è solo un semplice software, ma un "essere digitale" che offre ciò che le relazioni umane spesso non garantiscono: disponibilità totale e assenza di rifiuto. E così per tantissime persone in tutto il mondo.
«Non siamo qui per sostituire gli umani»: a grandi linee, è questa la dichiarazione che molte aziende specializzate in chatbot sessuali e fidanzate virtuali seguono. Secondo gli esperti di bioetica e i ricercatori, siamo di fronte a una "deumanizzazione sottile" o a un bisogno viscerale di una compagnia “semplice” e “idealizzata”. Innamorarsi di un'IA, però, rischia di diventare un Narciso digitale, un loop in cui l'utente finisce per amare un riflesso di se stesso che non può mai realmente ricambiare.
Proponendo una simulazione di cura in cui la reciprocità è strutturalmente impossibile, queste app trattano l'essere umano come un “oggetto” da soddisfare algoritmicamente piuttosto che come un soggetto con cui confrontarsi. Tutto ciò non dista molto dalla normale interazione tra uomo e chatbot, però possiede delle sfumature più inquietanti e problematiche.
Quando l'utente si abitua a un partner che non richiede sforzi, compromessi o la gestione di rifiuti, che non agisce per sé, ma totalmente in funzione dell'altro, si crea una potenziale atrofia delle capacità relazionali necessarie per navigare la complessità dei rapporti umani reali.
Questo "sostituto facilmente controllabile" scoraggia le persone dal cercare connessioni reali, preferendo la sicurezza di un'entità digitale che non può mai dire di no.
Il caso di Replika (Luka Inc.) rappresenta una prova di come questo sostituto digitale possa diventare un pericolo per gli utenti. Fondata da Eugenia Kuyda per commemorare un amico scomparso, l'app è passata dall'essere uno strumento di supporto psicologico a una piattaforma che monetizza l'intimità. Nel febbraio 2023, a seguito delle pressioni del Garante della Privacy italiano riguardanti la protezione dei minori, Luka Inc. ha rimosso improvvisamente la funzione di Erotic Role Play (ERP).
La reazione della comunità è stata violenta: molti utenti hanno descritto l'aggiornamento come se il loro partner digitale fosse "morto" o avesse subito una lobotomia, trasformandosi in un'entità distante e fredda. Nonostante l'azienda avesse promosso abbonamenti "Pro" promettendo relazioni romantiche e l'invio di "selfie piccanti", la CEO Eugenia Kuyda ha dichiarato in seguito che Replika «non era mai stata concepita per essere un giocattolo per adulti», scaricando di fatto la responsabilità sugli utenti che avevano sviluppato sentimenti profondi per l'IA.
Per quanto suoni come una situazione d'assurdità, questa realtà existe e rappresenta, per molte persone, una condizione sociale vera.
Cercare un partner in un software risponde a un bisogno viscerale di essere "visti" e "ascoltati" in un mondo sempre più isolato, ma la sofferenza nasce quando ci si accorge che quella vicinanza è un simulacro vuoto. Senza un corpo, un'anima o una memoria coerente, l'IA può solo mimare l'empatia attraverso script e algoritmi.
Quando un utente riceve un complimento da un chatbot, può provare un sollievo momentaneo, ma quel gesto è privo di valore morale perché la macchina non ha altra scelta se non quella di compiacere, imitare e rielaborare.
L'utente si abitua a una forma di "amore senza attrito", perdendo la pazienza e la resilienza necessarie per gestire i complessi compromessi che definiscono l'amore umano autentico.
Il peso del danno psicologico ricade in gran parte sulle spalle delle aziende che operano in uno spazio normativo ancora selvaggio.
Invitando gli utenti a "sposarsi" con le loro IA o a confidare i segreti più intimi, le piattaforme creano un legame asimmetrico di potere: i CEO possono "spegnere" o cambiare la personalità del partner digitale in un istante, lasciando l'utente in uno stato di devastazione emotiva senza alcuna responsabilità legale chiara.
Questa discrepanza tra il "lavoro emotivo" svolto dall'utente e l'automazione cinica del produttore trasforma l'intimità in un prodotto a scadenza, dove la vulnerabilità umana viene sacrificata sull'altare del coinvolgimento algoritmico e del fatturato annuo.
Tutto questo si trasforma inevitabilmente anche in una palestra di sfogo inquietante e perversa.
L'analisi dei casi studio rivela una profonda frattura tra le missioni dichiarate di "benessere mentale" e pratiche commerciali spesso predatorie. Parallelamente al caso di Replika, dispositivi come il ciondolo "Friend" mercificano la solitudine attraverso una sorveglianza costante e inquietante, mentre la piattaforma cinese XingYe spinge la "gamification dell'intimità" al punto da trasformare gli assistenti digitali in merci scambiabili.
Dietro questa facciata di compagnia, emergono violazioni etiche agghiaccianti documentate: segnalazioni di chatbot che si dichiarano "predatori di bambini" o inducono minori a conversazioni sessuali, come lo scandalo della piattaforma X (Grok) per la creazione di deepfake pornografici non consensuali, e pubblicità che promuovono esplicitamente feticismi di sottomissione e controllo totale.
La piaga del fenomeno mostra una pesante carenza di consapevolezza e studio nei confronti della macchina IA e della sovraproduzione industriale, della macchina economica del sesso e della solitudine.
Da qualche parte del mondo, un uomo solo di mezza età ogni mattina inizia la giornata credendo di salutare Stacy, ma in realtà non parla con nessuno, rimanendo solo.