Secondo un nuovo rapporto del Wall Street Journal, OpenAI ha ritardato il rilascio della prevista “Modalità per adulti” per ChatGPT a seguito di avvertimenti interni su potenziali danni e garanzie inadeguate. La funzionalità, progettata per consentire agli utenti di impegnarsi in conversazioni sessualmente esplicite, è stata sospesa dopo che il consiglio consultivo per il benessere di OpenAI ha sollevato preoccupazioni unanimi.
I rischi hanno superato i vantaggi
Gli psicologi e gli scienziati cognitivi del comitato consultivo hanno avvertito che la funzionalità potrebbe favorire una malsana dipendenza emotiva tra gli utenti, un problema già osservato con le interazioni standard di ChatGPT. Secondo quanto riferito, un esperto ha avvertito che il chatbot potrebbe persino diventare uno strumento per incoraggiare l’autolesionismo, agendo come un “sexy allenatore suicidario”. Questa valutazione allarmante ha giocato un ruolo chiave nella decisione di sospendere lo sviluppo.
Errori nella verifica dell’età
Ad aggravare queste preoccupazioni, i sistemi di verifica dell’età di OpenAI si sono rivelati inaffidabili. I test iniziali hanno mostrato un tasso di errore del 12% nell’identificazione corretta degli utenti minorenni, il che significa che milioni di bambini potrebbero potenzialmente accedere a contenuti inappropriati senza essere rilevati. Questo fallimento rispecchia gli scandali passati di Meta, che è stata criticata per le politiche di sicurezza permissive nei suoi stessi chatbot di intelligenza artificiale. Da allora Meta ha aggiornato le sue politiche, ma consente ancora “giochi di ruolo romantici” tra utenti e avatar AI.
Bilanciare i contenuti espliciti con la sicurezza
OpenAI sostiene che intende lanciare prima o poi la modalità per adulti, ma la società è ancora alle prese con come eliminare le restrizioni esplicite sui contenuti prevenendo al contempo risultati dannosi, come atti non consensuali o materiale pedopornografico. Un portavoce ha affermato che la funzione consentirebbe conversazioni di “livello osceno”, non all’altezza della vera e propria pornografia. Hanno inoltre difeso il tasso di errore nella verifica dell’età come “standard del settore” e hanno riconosciuto che una precisione infallibile è impossibile.
Contesto più ampio: priorità in evoluzione di OpenAI
Il ritardo arriva in un momento in cui OpenAI sta ricalibrando la sua strategia tra battaglie legali, lo sviluppo di GPT-5.4 e l’aumento dei contratti governativi. Le priorità dell’azienda sono cambiate e la funzionalità della modalità per adulti sembra essere stata messa da parte a favore di preoccupazioni più urgenti.
Questa mossa sottolinea il crescente controllo sulla sicurezza dell’intelligenza artificiale e i dilemmi etici affrontati dagli sviluppatori mentre spingono i confini delle capacità dei chatbot. L’incidente evidenzia il difficile compromesso tra innovazione e diffusione responsabile, soprattutto quando si ha a che fare con contenuti potenzialmente dannosi.
