Safeworld busca convencer sobre la seguridad de los robots generativos de IA

Safeworld, una nueva startup que emergió del sigilo, se propuso abordar uno de los desafíos más grandes en la robótica moderna: la seguridad de los robots generativos de inteligencia artificial. Fundada por Dr. Ding Zhao, Kyle Wong y Simo Rachidi, la empresa ha conseguido asegurar más de 12 millones de dólares en una ronda de financiación inicial, liderada por Shine Capital y a16z Speedrun.

El problema que intenta resolver Safeworld es la incertidumbre que rodea a los robots impulsados por IA, que a menudo no son predecibles como los algoritmos tradicionales. "El desafío de seguridad que estamos tratando es una combinación de, uno, realmente avanzadas evaluaciones probabilísticas de IA generativa; ¿cómo se evalúa el riesgo de un sistema probabilístico?" explicó Zhao.

La seguridad es crucial para la implementación de robots en entornos humanos. Safeworld se centra en crear simulaciones de sistemas de control robótico, utilizando modelos humanos realistas para evaluar cómo interactúan los robots en diferentes escenarios. Esto es similar a lo que hacen empresas como Tesla y Wayve con sus vehículos autónomos, pero con la complejidad adicional de que los robots deben operar en entornos no estructurados.

Wong comentó sobre los retos específicos: "Una de las áreas más comunes es si hay una esquina ciega en una fábrica en particular. ¿Cuál es la velocidad o la distancia de detención necesaria para asegurarse de que este robot no colisione con un humano?". Este tipo de preguntas son fundamentales para asegurar que los robots puedan coexistir de manera segura con los humanos.

El enfoque de Safeworld se basa en crear un modelo digital de entornos específicos, donde se simulan miles de escenarios en los que los humanos pueden interactuar con los robots. "Tripping and falling es un buen ejemplo de algo que probamos mucho en la simulación", agregó Wong. "De lo contrario, tendrías que ir y hacer que el robot tropiece y caiga, lo cual es difícil de realizar todo el tiempo".

La idea es que al validar estos sistemas en un entorno controlado, los fabricantes de robots puedan tener una tercera parte que valide su trabajo, lo que podría ayudar a establecer estándares de seguridad en la industria. Vishal Dugar, CTO de Gritt Robotics, quien trabaja en robots que ayudan a instalar paneles fotovoltaicos, se asoció con Safeworld para desarrollar estas simulaciones de seguridad.

Dugar enfatizó que la verificación de la seguridad de los robots es un proceso empírico, ya que es difícil probar formalmente la seguridad de estos sistemas. "Los humanos tienen muchas apariencias y comportamientos, y los robots deben ser capaces de responder a todos estos".

A medida que la tecnología avanza, la necesidad de una validación de seguridad se vuelve aún más crítica. Zhao concluyó: "Probablemente seremos la primera empresa rentable en este campo, porque si alguien quiere desplegar, necesita pagarnos para manejar la situación".