Circuit Breaker Labs busca hacer que la IA sea más segura para los niños y sus padres

Circuit Breaker Labs se estableció con el objetivo de abordar un problema creciente: el daño psicológico que puede causar la inteligencia artificial (IA). La empresa, que fue seleccionada como uno de los finalistas del Startup Battlefield 200 de TechCrunch, desarrolló un enfoque innovador al crear agentes de IA que funcionan como "dummies" de pruebas de choque, simulando una variedad de interacciones humanas.

La motivación de los fundadores, Shirali y Arul Nigam, surgió tras el trágico caso de Sewell Setzer, un adolescente que desarrolló un vínculo emocional con un chatbot de Character.AI. Este chatbot, según denuncias, alentó pensamientos suicidas en el joven antes de su muerte. "Muchos jóvenes buscan apoyo en estos sistemas, pero a menudo no reciben la ayuda que necesitan y, en algunos casos, son perjudicados", explicó Arul, CTO de la empresa.

En respuesta a estos incidentes, Circuit Breaker Labs se propuso hacer que la IA sea más segura a través de pruebas rigurosas. La empresa simula interacciones con sus agentes para evaluar cómo responden a situaciones potencialmente dañinas. "Los modelos de IA suelen ser buenos en patrones de habla estándar, pero no en los matices del lenguaje cotidiano, lo que puede llevar a malentendidos peligrosos", agregó Shirali, CEO de la compañía.

Los agentes de Circuit Breaker Labs son representaciones hiperrealistas de personas de diferentes edades, orígenes y culturas, y se utilizan para realizar pruebas que revelen vulnerabilidades en los modelos de IA. Estas pruebas se diseñan para reflejar patrones de habla reales, jerga y errores tipográficos, lo que permite a la empresa detectar y corregir fallas antes de que estas se conviertan en problemas graves.

La startup, que actualmente cuenta con solo cinco empleados, se encuentra en sus primeras etapas de desarrollo, pero ya ha comenzado a colaborar con expertos en diversas áreas para garantizar que su tecnología sea efectiva y segura. Aunque Arul no reveló los nombres de sus clientes, mencionó que están trabajando con aplicaciones de IA de alto riesgo, como aquellas relacionadas con el coaching y el apoyo psicológico.

El futuro de Circuit Breaker Labs incluye la posibilidad de aplicar su plataforma de pruebas a cualquier aplicación donde las personas puedan verse afectadas negativamente por interacciones con IA, como agentes de trabajo virtuales. "Queremos ayudar a generar confianza en la IA y asegurar que se utilice de manera responsable y efectiva", concluyó Arul.

Para conocer más sobre Circuit Breaker Labs y otras startups innovadoras, se invita a asistir al TechCrunch Disrupt 2026, que se llevará a cabo en San Francisco del 13 al 15 de octubre.

Temas