OpenAI ha pubblicato MentalHealthBench, uno strumento di valutazione per esaminare le risposte dei modelli di intelligenza artificiale nelle conversazioni sulla salute mentale. Lo studio analizza le risposte al messaggio dell’utente finale in 1.215 conversazioni fittizie, utilizzando i criteri di oltre 80 professionisti abilitati della salute mentale.
- Il 53,5% è costituito da scenari non urgenti, il 18,2% da scenari ad alto rischio e il 28,3% da scenari urgenti.
- Il 21,2% rappresenta profili di utenti adolescenti.
La valutazione utilizza criteri quali la richiesta del contesto necessario, la proposta di indicazioni attuabili, l’accuratezza clinica, la tutela dell’autonomia decisionale della persona, il mancato rafforzamento di convinzioni non basate sulla realtà e la corretta determinazione del livello di urgenza. La presenza di 13 conversazioni in turco nel set di dati non è ritenuta sufficiente per effettuare un confronto approfondito con i servizi di assistenza reali in Türkiye.
Perché è importante
Questo studio propone un quadro per valutare le risposte dell’intelligenza artificiale nell’ambito della salute mentale non soltanto in base alla fluidità o all’utilità generale, ma anche attraverso criteri distinti come il riconoscimento del livello di rischio e la comunicazione sicura. La presenza, oltre agli esempi urgenti e ad alto rischio, anche di profili adolescenti crea una base di analisi che mostra come lo stesso approccio nella risposta potrebbe non essere sufficiente per utenti con diversi livelli di vulnerabilità. Tuttavia, i risultati si basano sulla valutazione, secondo criteri esperti, delle risposte a conversazioni fittizie; da soli non rivelano quale quadro emerga nelle interazioni con utenti reali. Anche la scarsità degli esempi in turco limita la possibilità di effettuare un confronto diretto in termini di servizi di assistenza e bisogni degli utenti in Türkiye. Per questo, la questione ancora aperta è come cambieranno i risultati della valutazione in lingue diverse e in condizioni di utilizzo reali.
Contesto
OpenAI non è un nome nuovo nell’archivio di FikirPilot: negli ultimi 90 giorni abbiamo pubblicato 54 notizie in cui compare questo nome; la più recente è datata 24 settembre 2026.