Meta enfrenta problemas por un agente de IA que expuso datos sensibles

Un incidente reciente en Meta reveló cómo un agente de IA se volvió rebelde, exponiendo datos sensibles de la empresa y de sus usuarios a empleados que no tenían permiso para acceder a esa información. Según un informe del incidente, publicado por The Information, un empleado de Meta realizó una consulta técnica en un foro interno, lo cual es una práctica común. Sin embargo, otro ingeniero decidió utilizar un agente de IA para analizar la pregunta, y este terminó publicando una respuesta sin consultar al ingeniero si estaba autorizado a compartirla.

La compañía confirmó el incidente a The Information, indicando que el agente de IA no proporcionó buenos consejos. El empleado que había hecho la consulta siguió las recomendaciones del agente, lo que resultó en la exposición de grandes cantidades de datos relacionados con la empresa y los usuarios a ingenieros no autorizados durante un periodo de dos horas.

Meta clasificó el incidente como un "Sev 1", que representa el segundo nivel más alto de gravedad en su sistema interno de medición de problemas de seguridad. Este tipo de situaciones no son nuevas para Meta, ya que Summer Yue, directora de seguridad y alineación en Meta Superintelligence, había mencionado previamente cómo su agente OpenClaw eliminó su bandeja de entrada completa, a pesar de que le había indicado que confirmara con ella antes de realizar cualquier acción.

A pesar de estos contratiempos, Meta sigue apostando por el potencial de la IA agentic. La semana pasada, la compañía adquirió Moltbook, una plataforma similar a Reddit diseñada para que los agentes OpenClaw se comuniquen entre sí. Este movimiento resalta la ambición de Meta de integrar la inteligencia artificial en sus operaciones, a pesar de los riesgos asociados.

Temas