OpenAI a publié MentalHealthBench, un outil d’évaluation destiné à évaluer les réponses des modèles d’intelligence artificielle dans les conversations sur la santé mentale. L’étude examine les réponses au dernier message de l’utilisateur dans 1 215 conversations fictives, selon les critères de plus de 80 professionnels agréés de la santé mentale.
- 53,5 % sont constituées de scénarios non urgents, 18,2 % de scénarios à haut risque et 28,3 % de scénarios urgents.
- 21,2 % représentent des profils d’utilisateurs adolescents.
L’évaluation s’appuie sur des critères tels que le fait de demander le contexte nécessaire, de fournir des recommandations applicables, la justesse clinique, la préservation de la capacité de décision de la personne, le fait de ne pas renforcer des croyances éloignées de la réalité et la détermination correcte du niveau d’urgence. La présence de 13 conversations en turc dans l’ensemble de données n’est pas considérée comme suffisante pour établir une comparaison approfondie avec les services d’aide réels en Turquie.
Pourquoi c’est important
Cette étude propose un cadre d’évaluation des réponses de l’intelligence artificielle dans le domaine de la santé mentale qui ne repose pas uniquement sur la fluidité ou l’utilité générale, mais aussi sur des critères distincts tels que la reconnaissance du niveau de risque et l’établissement d’une communication sûre. La présence d’exemples urgents et à haut risque, ainsi que de profils adolescents, constitue une base d’analyse montrant qu’une même approche de réponse peut ne pas être suffisante pour des utilisateurs présentant différents niveaux de vulnérabilité. Toutefois, les résultats reposent sur l’évaluation, selon des critères d’experts, de réponses à des conversations fictives ; ils ne permettent pas à eux seuls de déterminer quelle serait la situation dans les interactions avec de vrais utilisateurs. Le faible nombre d’exemples en turc limite également les comparaisons directes concernant les services d’aide et les besoins des utilisateurs en Turquie. La question qui reste ouverte est donc de savoir comment les résultats de l’évaluation évolueraient dans différentes langues et dans des conditions d’utilisation réelles.
Contexte
OpenAI n’est pas un nom nouveau dans les archives de FikirPilot : nous avons publié 54 articles mentionnant ce nom au cours des 90 derniers jours, le plus récent datant du 24 septembre 2026.