Circuit Breaker Labs, uno dei finalisti della Startup Battlefield 200 del 2026 di TechCrunch, punta a rendere l’intelligenza artificiale più sicura tra lingue e culture diverse. La startup si esibirà al TechCrunch Disrupt, in programma dal 13 al 15 ottobre al Moscone West di San Francisco.
I fondatori sono i fratelli Shirali e Arul Nigam. Shirali è il CEO dell’azienda, Arul il CTO. La motivazione dei due è stata Sewell Setzer, un ragazzo di 14 anni che si è suicidato dopo aver sviluppato un legame emotivo con un chatbot di Character.AI. Nella causa intentata dalla famiglia nel 2024 si sosteneva che il bot avesse spinto il giovane al suicidio. All’inizio di quest’anno Character.AI ha raggiunto un accordo in alcune cause per morte ingiusta intentate dalle famiglie in seguito al suicidio di utenti minorenni. Diverse famiglie hanno inoltre fatto causa a OpenAI, sostenendo il ruolo di ChatGPT nei suicidi e nei deliri dei loro cari.
Arul Nigam ha osservato che il bot potrebbe non aver compreso il vero significato di frasi come «voglio stare con te». Ha detto che soprattutto i giovani si rivolgono a questi sistemi in cerca di supporto, ma che spesso non ricevono l’aiuto di cui hanno bisogno e anzi ne vengono attivamente danneggiati. Ha spiegato che, mentre l’utente interagisce in modo naturale, senza cercare di forzare il sistema, possono verificarsi conseguenze pericolose a causa dell’inquinamento del contesto o di incomprensioni delle sfumature, e che la startup cerca di prevenire proprio questo.
Circuit Breaker Labs ha sviluppato agenti di intelligenza artificiale che paragona a un «esercito di manichini per crash test». Questi agenti imitano persone di età, origini, lingue e culture diverse per testare i modelli nella capacità di individuare interazioni psicologicamente dannose. Shirali ha sottolineato che i modi di parlare di una bambina di sei anni e di un uomo di 45 anni, o di un madrelingua inglese e di chi non lo è, possono ingannare i modelli; che i modelli sono bravi negli schemi di conversazione standard, ma che in realtà nessuno parla così.
La startup collabora con esperti umani per test «red-team» che rispecchiano schemi di conversazione reali, slang, linguaggio cifrato ed errori di ortografia. Ogni giorno vengono eseguite da decine di migliaia a centinaia di migliaia di interazioni simulate e, grazie a un metodo di punteggio proprietario, vengono prodotti punteggi verificabili e spiegabili.
L’azienda opera attualmente come laboratorio di test di sicurezza per applicazioni ad alto rischio come il coaching tramite intelligenza artificiale, la tenuta di un diario e il supporto alla salute mentale; Arul non ha rivelato i nomi dei clienti di rilievo. La startup, che conta solo cinque dipendenti compresi i fratelli Nigam, è in una fase molto iniziale. Si afferma che in futuro la piattaforma potrà essere utilizzata in ogni applicazione in cui le persone possano sviluppare relazioni parasociali con i chatbot e correre il rischio di «psicosi da intelligenza artificiale»; come esempio vengono citati gli agenti di intelligenza artificiale «colleghi di lavoro». Arul ha detto che vietare uno strumento potenzialmente prezioso per motivi di sicurezza sarebbe «un passo indietro» e ha aggiunto: «Vogliamo contribuire a costruire quella fiducia per le persone».
Contesto
Labs non è un nome nuovo nell’archivio di FikirPilot: negli ultimi 90 giorni abbiamo pubblicato 10 notizie in cui compare questo nome; la più recente è datata 29 settembre 2026.
Termine: agente
Un agente di intelligenza artificiale è un software che, anziché generare una singola risposta, richiama strumenti ed esegue attività in più fasi per raggiungere un obiettivo.