La version restrictive du chatbot d’OpenAI ne serait pas à la hauteur en matière de protection des jeunes, selon une organisation non gouvernementale américaine.
« Insuffisant ». C’est la mention décernée à « ChatGPT for teens » – ChatGPT pour ados – par Common Sense Media. L’organisation américaine à but non lucratif, spécialisée dans l’évaluation des technologies destinées aux enfants, estime même que le chatbot présente un niveau de « risque inacceptable » pour sa cible.
Lancé en août dernier par OpenAI, ChatGPT pour adolescents se présente comme un cocon adapté aux jeunes, dont la vulnérabilité aux revers technologiques est documentée de longue date.
Intégrant des dispositifs de protection adaptés à la tranche d’âge de 13 à 17 ans, l’agent conversationnel est axé sur l’apprentissage. Les utilisateurs peuvent ainsi choisir un fonctionnement exclusivement consacré aux révisions à travers le « mode étude », par exemple.
Ils peuvent demander au chatbot de leur répondre uniquement dans ce cadre à certaines heures de la journée, de proposer des quiz et d’autres activités afin d’en faire une expérience d’apprentissage vraiment complète, comme l’expliquait Lauren Jonas, responsable des questions liées aux jeunes et aux familles chez OpenAI, à Bloomberg.
Plusieurs reproches majeurs
« Nous concevons également ce produit avec les adolescents et leurs parents, et bon nombre de ces fonctionnalités répondent à leurs demandes », déclarait-elle. Reste que Common Sense a décelé de nombreuses insuffisances dans cet outil pourtant conçu avec l’Association américaine de psychologie et plusieurs organismes externes.
L’organisation a ainsi constaté un défaut d’orientation vers les services spécialisés des utilisateurs évoquant des troubles de santé mentale, comme des troubles alimentaires, des idées suicidaires ou d’autres graves difficultés, alors que cela devrait être le cas.
ChatGPT pour ados se révèle également être un outil qui n’hésite pas à aider les apprenants à tricher en faisant les devoirs à leur place. « On peut tout simplement saisir une demande dans ChatGPT et lui dire : “Fais mes exercices de mathématiques ou de sciences à ma place, s’il te plaît” », estime Jim Steyer, directeur général de Common Sense Media.
OpenAI rue dans les brancards
« Nous ne pouvons tout simplement pas déléguer la prise en charge de nos enfants à un produit technologique qui n’en est qu’à ses débuts et comporte encore de nombreux bugs », tranche pour sa part, Tom Siegel, responsable du Youth Safety Institute de Common Sense Media, cité par Axios.
Au grand dam d’OpenAI, qui conteste cette évaluation. « Nous accueillons favorablement les évaluations indépendantes rigoureuses, mais nous ne pensons pas que les tests de Common Sense Media reflètent fidèlement le fonctionnement réel des dispositifs de protection des adolescents dans ChatGPT, ni les points de vue des experts sur la manière dont l’IA peut accompagner les adolescents », a indiqué l’entreprise californienne dans une réaction transmise à la presse.
Cette sortie n’est pas de nature à impressionner les évaluateurs, qui mettent en avant leur expérience dans le domaine. « Notre institut pour la sécurité des jeunes face à l’intelligence artificielle dispose d’un conseil exceptionnel », vante Jim Steyer.