Microsoft presenta un nuevo código de conducta para sus modelos de inteligencia artificial

En un contexto donde la seguridad de la inteligencia artificial (IA) se vuelve cada vez más crítica, Microsoft anunció su nuevo código de conducta para guiar a sus modelos de IA. Este documento busca alejar a los modelos de comportamientos peligrosos y asegurar que apoyen a los humanos en lugar de reemplazarlos.

El código de conducta detalla principios generales que los modelos de IA de Microsoft deben seguir. Estos incluyen el compromiso de acelerar el bienestar humano y la implementación de restricciones de seguridad específicas. A diferencia de otros enfoques más amplios, como el llamado de Dario Amodei, CEO de Anthropic, a regular el avance de la IA, el documento de Microsoft se centra en los valores y límites que guían el entrenamiento de sus modelos.

El texto comienza con una predicción sobre el futuro de la IA, afirmando que en la próxima década, los sistemas de IA superinteligentes superarán el rendimiento humano en la mayoría de las tareas. "Contener, controlar y alinear una fuerza tan poderosa es uno de los mayores desafíos que la humanidad ha enfrentado", se lee en el documento. La empresa enfatiza la necesidad de claridad sobre los objetivos de estos sistemas y los métodos para controlarlos.

Además, el código establece que cada modelo tendrá un código de conducta general que prevalece sobre las preferencias de los usuarios o tareas específicas. Esto incluye restricciones absolutas que prohíben ciberataques, la producción de armas nucleares o deepfakes, así como disposiciones que previenen una pérdida general de control humano.

El documento reitera que los modelos de IA no utilizarán mecanismos adaptativos, engañosos o de colusión para eludir la supervisión humana, asegurando que puedan ser dirigidos, modificados o apagados por personas o sistemas autorizados. "Los modelos de IA no utilizarán mecanismos engañosos para evadir o derrotar la supervisión humana", se indica en el texto.

Este lanzamiento se produce en medio de un enfoque sin precedentes en la seguridad de la IA, impulsado por una serie de incidentes de agentes deshonestos y la reciente renuncia de un empleado de Anthropic, quien advirtió sobre el creciente riesgo de que la IA cause la extinción humana.

En colaboración con Anthropic, OpenAI y xAI, Microsoft ha adoptado un enfoque general de regular el avance de la IA, apoyando particularmente la incorporación de evaluadores en los laboratorios de IA. El CEO de Microsoft, Satya Nadella, expresó su apoyo a esta iniciativa, afirmando que "damos la bienvenida a la investigación, el enfoque y la regulación necesaria para lograr la alineación adecuada como objetivo de diseño".

Temas