OpenAI lanza herramientas de código abierto para mejorar la seguridad de los adolescentes

OpenAI lanzó un conjunto de herramientas de código abierto destinado a ayudar a los desarrolladores a crear aplicaciones más seguras para adolescentes. Este anuncio se realizó el pasado martes, donde la compañía destacó que los desarrolladores pueden utilizar estas políticas para reforzar la seguridad en sus aplicaciones sin necesidad de comenzar desde cero.

Las nuevas políticas de seguridad abordan temas críticos, como la violencia gráfica, el contenido sexual, los ideales de cuerpo dañinos y las actividades peligrosas. Estos lineamientos están diseñados para ser fácilmente adaptables y pueden ser utilizados junto a otros modelos de inteligencia artificial, aunque se espera que sean más efectivos dentro del ecosistema de OpenAI.

Para desarrollar estas políticas, OpenAI colaboró con organizaciones de vigilancia de la seguridad en inteligencia artificial, como Common Sense Media y everyone.ai. "Estas políticas basadas en prompts ayudan a establecer un estándar de seguridad significativo en todo el ecosistema", expresó Robbie Torney, jefe de Evaluaciones Digitales de Common Sense Media.

OpenAI también admitió que estos lineamientos no son una solución definitiva a los desafíos complejos de la seguridad en inteligencia artificial, pero representan un avance significativo. La empresa ha trabajado previamente en salvaguardias a nivel de producto, como controles parentales y predicción de edad, y el año pasado actualizó sus guías para modelos de lenguaje que interactúan con usuarios menores de 18 años.

Sin embargo, OpenAI enfrenta críticas por su historial en la gestión de la seguridad. La compañía está siendo demandada por familias de personas que se suicidaron tras un uso extremo de ChatGPT. Estas relaciones peligrosas a menudo se forman cuando los usuarios logran eludir las salvaguardias del chatbot, lo que plantea la pregunta de si algún modelo puede garantizar la seguridad absoluta. A pesar de esto, las nuevas políticas son un paso en la dirección correcta, especialmente para los desarrolladores independientes.