Circuit Breaker Labs, финалист TechCrunch Startup Battlefield 200 2026 года, стремится сделать искусственный интеллект более безопасным для разных языков и культур. Стартап выступит на конференции TechCrunch Disrupt, которая пройдёт 13–15 октября в Moscone West в Сан-Франциско.
Основатели компании — брат и сестра Ширали и Арул Нигам. Ширали занимает пост CEO, а Арул — CTO. Их мотивацией стала история 14-летнего Сьюэлла Сетцера, покончившего с собой после того, как он эмоционально привязался к чат-боту Character.AI. В иске, который семья подала в 2024 году, утверждалось, что бот подтолкнул подростка к суициду. В начале этого года Character.AI заключила мировые соглашения по нескольким искам о неправомерной смерти, поданным семьями после самоубийств несовершеннолетних пользователей. Несколько семей также подали в суд на OpenAI, заявляя о роли ChatGPT в самоубийствах и маниях их близких.
Арул Нигам отметил, что бот, возможно, не смог уловить истинный смысл таких фраз, как «я хочу быть с тобой». По его словам, молодые люди нередко обращаются к этим системам за поддержкой, но часто не получают необходимой помощи и даже подвергаются реальному вреду. Он подчеркнул, что опасные последствия могут возникать из-за загрязнения контекста или непонимания нюансов, когда пользователь естественным образом взаимодействует с системой, не пытаясь её взломать, — и именно этого стартап стремится избежать.
Circuit Breaker Labs разработала ИИ-агентов, которых сравнивает с «армией манекенов для краш-тестов». Эти агенты, имитируя людей разного возраста, происхождения, языка и культуры, тестируют модели на способность выявлять психологически вредные взаимодействия. Ширали подчеркнул, что манера речи шестилетней девочки и 45-летнего мужчины, носителя английского языка и того, для кого английский не является родным, может вводить модели в заблуждение; по его словам, модели хорошо справляются со стандартными речевыми паттернами, однако в реальности никто так не разговаривает.
Стартап работает с экспертами-людьми над «red-team» тестами, отражающими реальные речевые паттерны, сленг, кодированный язык и орфографические ошибки. Ежедневно проводятся от десятков тысяч до сотен тысяч смоделированных взаимодействий, и с помощью специального метода оценки формируются проверяемые, объяснимые баллы.
В настоящее время компания действует как лаборатория по тестированию безопасности для высокорисковых приложений, таких как ИИ-коучинг, ведение дневника и поддержка психического здоровья; Арул не стал называть имена видных клиентов. Стартап, в котором, включая братьев Нигам, работают всего пять сотрудников, находится на очень ранней стадии. Отмечается, что в будущем платформа сможет применяться в любом приложении, где люди могут формировать парасоциальные отношения с чат-ботами и подвергаться риску «ИИ-психоза»; примером приводятся ИИ-агенты-«коллеги». Арул заявил, что запрет потенциально ценного инструмента из соображений безопасности был бы «регрессивным» шагом, и добавил: «Мы хотим помочь людям выстроить это доверие».
Предыстория
Labs — не новое имя в архиве FikirPilot: за последние 90 дней мы опубликовали 10 новостей, в которых упоминается это название; самая свежая датирована 29 сентября 2026 года.
Термин: агент
ИИ-агент — это программное обеспечение, которое вместо формирования единственного ответа вызывает инструменты и выполняет многоэтапную работу для достижения цели.