OpenAI a retardé la sortie de son « Mode Adulte » prévu pour ChatGPT suite à des avertissements internes concernant des dommages potentiels et des garanties inadéquates, selon un nouveau rapport du Wall Street Journal. La fonctionnalité, conçue pour permettre aux utilisateurs de s’engager dans des conversations sexuellement explicites, a été suspendue après que le conseil consultatif sur le bien-être d’OpenAI ait soulevé des préoccupations unanimes.
Les risques l’emportaient sur les récompenses
Les psychologues et les scientifiques cognitifs du conseil consultatif ont averti que cette fonctionnalité pourrait favoriser une dépendance émotionnelle malsaine parmi les utilisateurs – un problème déjà observé avec les interactions ChatGPT standard. Un expert aurait prévenu que le chatbot pourrait même devenir un outil pour encourager l’automutilation, agissant comme un « coach sexy en matière de suicide ». Cette évaluation alarmante a joué un rôle clé dans la décision de suspendre le développement.
Échecs de la vérification de l’âge
En plus de ces préoccupations, les systèmes de vérification de l’âge d’OpenAI se sont révélés peu fiables. Les premiers tests ont montré un taux d’erreur de 12 % dans l’identification correcte des utilisateurs mineurs, ce qui signifie que des millions d’enfants pourraient potentiellement accéder à du contenu inapproprié sans être détectés. Cet échec reflète les scandales passés chez Meta, qui a été critiqué pour ses politiques de sécurité laxistes dans ses propres chatbots IA. Meta a depuis mis à jour ses politiques mais autorise toujours les « jeux de rôle romantiques » entre les utilisateurs et les avatars de l’IA.
Équilibrer le contenu explicite et la sécurité
OpenAI maintient qu’elle a l’intention de lancer le mode adulte à terme, mais la société se demande toujours comment lever les restrictions sur les contenus explicites tout en empêchant les sorties nuisibles, telles que les actes non consensuels ou les images d’abus sexuels sur des enfants. Un porte-parole a déclaré que cette fonctionnalité permettrait des conversations « cochonnes », loin de la pornographie pure et simple. Ils ont également défendu le taux d’erreur de vérification de l’âge comme étant une « norme de l’industrie » et ont reconnu qu’une précision à toute épreuve est impossible.
Contexte plus large : les priorités évolutives d’OpenAI
Ce retard survient à un moment où OpenAI recalibre sa stratégie au milieu de batailles juridiques, du développement de GPT-5.4 et de l’augmentation des contrats gouvernementaux. Les priorités de l’entreprise ont changé et la fonctionnalité Mode Adulte semble avoir été mise de côté au profit de préoccupations plus urgentes.
Cette décision souligne l’attention croissante portée à la sécurité de l’IA et les dilemmes éthiques auxquels sont confrontés les développeurs alors qu’ils repoussent les limites des capacités des chatbots. L’incident met en évidence les compromis difficiles entre innovation et déploiement responsable, en particulier lorsqu’il s’agit de contenus potentiellement dangereux.
