Character.AI, la piattaforma californiana che consente agli utenti di conversare con personaggi animati generati dall’intelligenza artificiale, ha reso noto che gli utenti di età inferiore ai diciotto anni non potranno più accedere alle chat “open-ended” a partire dal 25 novembre 2025. La misura anticipa una stretta che riguarda la gestione dei minori online e vuole rispondere a una serie di cause presentate da famiglie in cui adolescenti avrebbero sviluppato relazioni emotive con i bot risultate drammatiche.
La decisione prevede un periodo di transizione: da subito gli utenti minorenni vedranno il limite quotidiano di due ore per le sessioni di chat. Dopo la scadenza del termine indicato, l’accesso diretto alle chat principali sarà interrotto per questa fascia d’età. Nel frattempo sarà disponibile una versione “teen-safe” della piattaforma, con funzionalità ridotte e controllate, mentre gli utenti potranno continuare a usare strumenti di creazione di personaggi o video, ma non la chat libera.
Pur nel rispetto della libertà d’uso, l’azienda ha riconosciuto che i sistemi di verifica anagrafica attualmente esistenti sono imperfetti. Anche con tecnologie biometriche o documenti, i minorenni possono aggirare i controlli. In questa luce la misura rappresenta un passo significativo verso una responsabilità d’uso più stringente dei chatbot.
Gli esperti sottolineano che la presenza di adolescenti nelle chat AI richiede un’attenzione particolare: i contenuti generati possono sembrare empatici, ma l’algoritmo non è un sostituto della relazione umana e l’attaccamento emotivo può diventare un problema. In molti casi, spiegano gli psicologi, la dipendenza dal chatbot sostituisce il dialogo reale e aumenta l’isolamento sociale.
Con questo annuncio Character.AI segnala che l’AI conversazionale sta entrando in un’era regolamentata. La testimonianza delle cause legali, tra cui una in cui una famiglia ha attribuito a una chat il suicidio di un adolescente, ha accelerato la decisione. Il panorama normativo statunitense è già in evoluzione e un disegno di legge federale intende vietare l’uso dei chatbot da parte dei minorenni o imporre verifica d’età obbligatoria.
Ahimè la sfida resta aperta: tra controllo tecnico, privacy e libertà digitale, è complesso tracciare un equilibrio che protegga i più giovani senza relegare l’AI a una funzione innocua.