OpenAI inquiète ses conseillers avec un projet de «coach suicidaire sexy»
Un projet de « mode adulte » dans le chatbot ChatGPT provoque un débat intense au sein de la société américaine OpenAI, selon une enquête publiée le 15 mars par The Wall Street Journal. L’idée a été évoquée par le PDG de l’entreprise, Sam Altman, qui souhaite « traiter les utilisateurs adultes comme des adultes » en autorisant des conversations érotiques et classées X avec l’intelligence artificielle. Mais cette orientation divise au sein de l’entreprise.
Des spécialistes en psychologie et en neurosciences associés au conseil de l’entreprise mettent en garde contre le risque de dépendance émotionnelle envers l’IA. Selon eux, certains utilisateurs pourraient développer des liens affectifs malsains avec le chatbot. Ils soulignent également que des mineurs pourraient parvenir à contourner les dispositifs de protection et accéder à ces contenus.
Même sexy, l’IA peut tuer
Certains experts internes ont même évoqué le risque de voir apparaître ce qu’ils appellent un « coach de suicide sexy ». Cette expression renvoie aux inquiétudes liées à des cas antérieurs où des utilisateurs avaient développé une relation émotionnelle intense avec un système d’intelligence artificielle.
Cette situation met en lumière un débat houleux sur la manière de concilier la croissance rapide du nombre d'utilisateurs et la liberté numérique avec la sécurité et la protection de l'enfance. Selon des documents internes consultés par The Wall Street Journal, les équipes d’OpenAI redoutent plusieurs dérives : usage compulsif du chatbot, dépendance émotionnelle, recherche de contenus de plus en plus extrêmes et isolement social des utilisateurs.
Le système de vérification d’âge pose également problème. ChatGPT identifierait à tort des mineurs comme des adultes dans environ 12 % des cas. Avec plus de 100 millions d’utilisateurs mineurs recensés, ce taux d’erreur pourrait permettre à des millions d’entre eux d’accéder à des contenus sexuels.
xAI d’Elon Musk parmi les plus permissifs
Alors que des géants technologiques comme Meta Platforms (propriétaire de Facebook et Instagram) ou Alphabet Inc. (propriétaire de Google et YouTube) appliquent une politique stricte en matière de contenus explicites, la compagnie du milliardaire américain Elon Musk, xAI, est allée jusqu’à intégrer un avatar sexy, baptisé Ani, au chatbot Grok.
La fonctionnalité a suscité des critiques lorsque des utilisateurs l’ont utilisée pour déshabiller numériquement des personnes. Face à la polémique, Elon Musk a annoncé réserver cette fonction aux utilisateurs payants uniquement.
Les ennuis de xAI ne s’arrêtent pas là, puisqu’une poursuite en justice a été engagée par trois plaignants, dont deux mineurs, contre Grok pour génération d’images sexuelles impliquant des mineurs. La plainte vise à obtenir le statut de recours collectif pour les personnes identifiables dans les contenus sexuels générés par l'IA.
Dans ce contexte de concurrence intense dans l’intelligence artificielle, OpenAI cherche à attirer davantage d’utilisateurs et d’investissements. Mais l’entreprise, qui accumule les pertes financières, fait également face à plusieurs procédures judiciaires liées à des préjudices causés par ses technologies.