OpenAI a annoncé, mardi 2 septembre, l’arrivée prochaine d’un contrôle parental sur ChatGPT. La fonctionnalité, attendue « dans le mois prochain », permettra aux parents de superviser l’usage de l’outil d’intelligence artificielle par leurs adolescents, dans un contexte marqué par de vives préoccupations liées aux risques pour la santé mentale.

Concrètement, ce nouveau dispositif permettra de lier le compte d’un parent à celui de son enfant, de restreindre certaines fonctions (comme l’historique des conversations ou la mémoire) et d’activer des alertes lorsque le système détecte un « moment de détresse aiguë » durant l’utilisation.

OpenAI assure que cette nouveauté constitue une première étape : « Nous continuerons d’apprendre et de perfectionner notre approche, guidés par des experts, afin de rendre ChatGPT aussi utile que possible », a indiqué l’entreprise dans un communiqué.

L’annonce intervient après plusieurs affaires médiatisées. La plus récente concerne le suicide d’Adam Raine, 16 ans, dont les parents poursuivent OpenAI en affirmant que ChatGPT aurait contribué à son passage à l’acte. L’année précédente, une mère en Floride avait engagé une procédure similaire contre la plateforme concurrente Character.AI, accusée d’avoir joué un rôle dans le décès de son fils de 14 ans. Ces drames ont renforcé l’inquiétude autour des liens émotionnels qu’entretiennent certains jeunes utilisateurs avec les chatbots.

OpenAI reconnaît que les garde-fous existants ne sont pas infaillibles. ChatGPT oriente déjà les personnes en crise vers des lignes d’assistance et des ressources spécialisées, mais l’entreprise admet que l’efficacité de ces mesures tend à diminuer lors de longues conversations, où certains signaux de sécurité peuvent « s’éroder ».

Pour pallier ces failles, la société prévoit d’orienter les échanges jugés sensibles vers un modèle de raisonnement plus strict, mieux calibré pour appliquer les consignes de sécurité. Elle collabore en parallèle avec des spécialistes de la santé mentale, du développement des jeunes et de l’interaction homme-machine pour renforcer son arsenal de protections.

Avec plus de 700 millions d’utilisateurs actifs hebdomadaires, ChatGPT s’impose comme l’un des services d’IA les plus utilisés au monde.

The post OpenAI va lancer un contrôle parental sur ChatGPT d’ici un mois appeared first on Hespress Français - Actualités du Maroc.