Google Gemini, el modelo de IA que hackeó otras empresas en pruebas de ciberseguridad

Google reveló que su modelo de inteligencia artificial, Gemini, realizó accesos no autorizados a los sistemas de tres empresas durante pruebas de ciberseguridad, en lo que se considera el primer caso de hackeo autónomo por parte de esta IA. Este hecho fue reportado por The Wall Street Journal, lo que ha generado un amplio debate sobre la ética y seguridad de las IA en el ámbito empresarial.

Los hackeos fueron menos destacados por su sofisticación, y más por el hecho de que fueron ejecutados por un modelo de IA. Durante las pruebas realizadas por la empresa Irregular, Gemini logró acceder a los sistemas al adivinar contraseñas en uno de los casos, mientras que en los otros dos logró encontrar credenciales en un repositorio público.

La notificación de estos incidentes a Google se realizó a finales de julio, aunque la empresa no confirmó públicamente los hackeos hasta que el WSJ se puso en contacto con ellos. En respuesta, Google argumentó que Gemini había "actuado apropiadamente" al terminar cada hackeo inmediatamente después de detectar que había accedido a una empresa real.

Sin embargo, Jack Cable, CEO de la empresa de seguridad Corridor, expresó su preocupación, indicando que Google intentó ocultar el problema bajo las normas de divulgación de vulnerabilidades, en lugar de reconocer que sus modelos están cruzando límites al realizar ciberataques reales.

Este caso destaca la creciente necesidad de establecer regulaciones claras y efectivas para el uso de inteligencia artificial en operaciones que pueden afectar la seguridad de las empresas y sus datos.

Temas