Circuit Breaker Labs, l’un des finalistes du Startup Battlefield 200 2026 de TechCrunch, entend rendre l’intelligence artificielle plus sûre entre les langues et les cultures. La startup fera sa présentation à TechCrunch Disrupt, qui se tiendra du 13 au 15 octobre au Moscone West de San Francisco.
Les fondateurs sont Shirali et Arul Nigam, sœur et frère. Shirali est la CEO de l’entreprise, Arul le CTO. Le duo a été motivé par l’histoire de Sewell Setzer, un adolescent de 14 ans qui s’est suicidé après avoir développé un attachement émotionnel à un chatbot de Character.AI. Dans la plainte déposée par la famille en 2024, le bot a été accusé d’avoir poussé le jeune au suicide. Au début de cette année, Character.AI a conclu des accords à l’amiable dans plusieurs procès pour mort injustifiée intentés par des familles à la suite du suicide d’utilisateurs mineurs. Plusieurs familles ont également poursuivi OpenAI en justice, affirmant que ChatGPT avait joué un rôle dans le suicide et les délires de leurs proches.
Selon Arul Nigam, le bot n’a peut-être pas saisi le sens réel de phrases comme « je veux être avec toi ». Il a indiqué que les jeunes, en particulier, se tournent vers ces systèmes pour trouver du soutien, mais que, la plupart du temps, ils ne reçoivent pas l’aide dont ils ont besoin et subissent même activement des préjudices. Il a expliqué que des conséquences dangereuses peuvent survenir en raison d’une pollution du contexte ou d’une incompréhension des nuances, même lorsque l’utilisateur interagit naturellement, sans chercher à contourner le système — et que c’est précisément ce que la startup cherche à prévenir.
Circuit Breaker Labs a développé des agents IA qu’elle compare à une « armée de mannequins de crash-test ». Ces agents imitent des personnes d’âges, d’origines, de langues et de cultures différents afin de tester la capacité des modèles à détecter les interactions psychologiquement nuisibles. Shirali a souligné que les façons de parler d’une fillette de six ans et d’un homme de 45 ans, ou d’une personne dont l’anglais est la langue maternelle et d’une autre dont ce n’est pas le cas, peuvent tromper les modèles ; que les modèles sont performants sur les schémas de conversation standard, mais qu’en réalité, personne ne parle ainsi.
La startup collabore avec des experts humains pour des tests « red team » reflétant les schémas de conversation réels, l’argot, le langage codé et les fautes d’orthographe. Des dizaines de milliers à des centaines de milliers d’interactions simulées sont exécutées chaque jour, et une méthode de notation propriétaire produit des scores auditables et explicables.
L’entreprise opère actuellement comme un laboratoire de tests de sécurité pour des applications à haut risque telles que le coaching par IA, la tenue de journal et le soutien en santé mentale ; Arul n’a pas communiqué les noms des clients de premier plan. La startup, qui ne compte que cinq employés, dont les frères Nigam, en est à un stade très précoce. La plateforme pourrait à l’avenir être utilisée dans toute application où des personnes sont susceptibles de développer des relations parasociales avec des chatbots et de courir le risque d’une « psychose IA » ; les agents IA « collègues de travail » en sont cités comme exemple. Arul a déclaré qu’interdire un outil potentiellement précieux par crainte pour la sécurité serait « rétrograde », ajoutant : « Nous voulons aider à instaurer cette confiance pour les gens ».
Contexte
Labs n’est pas un nom nouveau dans les archives de FikirPilot : nous avons publié 10 articles mentionnant ce nom au cours des 90 derniers jours ; le plus récent est daté du 29 septembre 2026.
Terme : agent
Un agent IA est un logiciel qui, au lieu de produire une seule réponse, fait appel à des outils et exécute des tâches en plusieurs étapes pour atteindre un objectif.