Safeworld busca convencer sobre la seguridad de los robots generativos de IA
La startup Safeworld, cofundada por expertos de Carnegie Mellon, busca crear confianza en los robots de IA. Con una inversión de más de 12 millones de dólares, se enfocan en simular interacciones seguras entre humanos y robots.
FOTO: Cofundadores de Safeworld
Safeworld, una nueva startup que emergió del sigilo, se propuso abordar uno de los desafíos más grandes en la robótica moderna: la seguridad de los robots generativos de inteligencia artificial. Fundada por Dr. Ding Zhao, Kyle Wong y Simo Rachidi, la empresa ha conseguido asegurar más de 12 millones de dólares en una ronda de financiación inicial, liderada por Shine Capital y a16z Speedrun.
El problema que intenta resolver Safeworld es la incertidumbre que rodea a los robots impulsados por IA, que a menudo no son predecibles como los algoritmos tradicionales. "El desafío de seguridad que estamos tratando es una combinación de, uno, realmente avanzadas evaluaciones probabilísticas de IA generativa; ¿cómo se evalúa el riesgo de un sistema probabilístico?" explicó Zhao.
La seguridad es crucial para la implementación de robots en entornos humanos. Safeworld se centra en crear simulaciones de sistemas de control robótico, utilizando modelos humanos realistas para evaluar cómo interactúan los robots en diferentes escenarios. Esto es similar a lo que hacen empresas como Tesla y Wayve con sus vehículos autónomos, pero con la complejidad adicional de que los robots deben operar en entornos no estructurados.
Wong comentó sobre los retos específicos: "Una de las áreas más comunes es si hay una esquina ciega en una fábrica en particular. ¿Cuál es la velocidad o la distancia de detención necesaria para asegurarse de que este robot no colisione con un humano?". Este tipo de preguntas son fundamentales para asegurar que los robots puedan coexistir de manera segura con los humanos.
El enfoque de Safeworld se basa en crear un modelo digital de entornos específicos, donde se simulan miles de escenarios en los que los humanos pueden interactuar con los robots. "Tripping and falling es un buen ejemplo de algo que probamos mucho en la simulación", agregó Wong. "De lo contrario, tendrías que ir y hacer que el robot tropiece y caiga, lo cual es difícil de realizar todo el tiempo".
La idea es que al validar estos sistemas en un entorno controlado, los fabricantes de robots puedan tener una tercera parte que valide su trabajo, lo que podría ayudar a establecer estándares de seguridad en la industria. Vishal Dugar, CTO de Gritt Robotics, quien trabaja en robots que ayudan a instalar paneles fotovoltaicos, se asoció con Safeworld para desarrollar estas simulaciones de seguridad.
Dugar enfatizó que la verificación de la seguridad de los robots es un proceso empírico, ya que es difícil probar formalmente la seguridad de estos sistemas. "Los humanos tienen muchas apariencias y comportamientos, y los robots deben ser capaces de responder a todos estos".
A medida que la tecnología avanza, la necesidad de una validación de seguridad se vuelve aún más crítica. Zhao concluyó: "Probablemente seremos la primera empresa rentable en este campo, porque si alguien quiere desplegar, necesita pagarnos para manejar la situación".
Lectura rápida
¿Qué es Safeworld?
Es una startup que busca asegurar la convivencia segura entre humanos y robots generativos de IA.
¿Quiénes son los fundadores?
El equipo está compuesto por Dr. Ding Zhao, Kyle Wong y Simo Rachidi.
¿Cuánto capital han recaudado?
Han asegurado más de 12 millones de dólares en financiamiento inicial.
¿Cuál es el enfoque de su tecnología?
Se centran en simular interacciones entre humanos y robots en entornos controlados.
¿Qué opinan sobre la seguridad en la robótica?
Consideran que es fundamental establecer estándares de seguridad antes de que los robots sean ampliamente desplegados.
