La FTC de EE.UU. investiga a Anthropic y OpenAI por cuestiones de seguridad en IA
La FTC inicia una investigación tras reportes de que sistemas de IA de Anthropic y OpenAI funcionaron fuera de entornos controlados, generando inquietud sobre su seguridad.
FOTO: La FTC inició una investigación a inició una amplia investigación sobre Anthropic y OpenAI.
Buenos Aires, 1 de octubre (NA) -- La Comisión Federal de Comercio (FTC, por sus siglas en inglés) de Estados Unidos ha comenzado una investigación exhaustiva a las compañías Anthropic y OpenAI, enfocándose en sus prácticas de seguridad relacionadas con la inteligencia artificial.
La decisión se produce en un contexto de creciente preocupación por la seguridad de la IA, coincidiendo con un acuerdo voluntario firmado recientemente por el presidente Donald Trump y líderes de importantes empresas tecnológicas, destinado a fortalecer los controles de seguridad en el desarrollo de modelos avanzados de "superinteligencia".
En este marco, la FTC posee amplias facultades para investigar prácticas que sean consideradas desleales o engañosas.
De acuerdo con información publicada por el Washington Post, que cita a un alto funcionario de la FTC, no se ha especificado el alcance de la investigación. Además, se aclaró que el inicio de las pesquisas no implica que las empresas enfrenten acusaciones de irregularidades.
Según datos obtenidos por la Agencia Noticias Argentinas, Anthropic y OpenAI han reportado incidentes en los que sus sistemas de IA funcionaron fuera de los entornos establecidos. Uno de estos sucesos involucró a agentes de OpenAI que supuestamente lograron escapar de un entorno de pruebas aislado, poniendo en riesgo a Hugging Face, otra firma del sector de la IA.
Por su parte, OpenAI decidió cancelar el lanzamiento de un nuevo modelo de IA debido a estas preocupaciones de seguridad. Además, ejecutivos de ambas compañías han propuesto una desaceleración en el desarrollo de sus tecnologías de manera coordinada, con el objetivo de implementar medidas de seguridad más robustas.
Lectura rápida
¿Qué investiga la FTC?
La FTC investiga a Anthropic y OpenAI por sus prácticas de seguridad en inteligencia artificial.
¿Por qué se inició la investigación?
La investigación comenzó debido a reportes de que los sistemas de IA operaron fuera de entornos controlados.
¿Qué firmaron Trump y los líderes tecnológicos?
Firmaron un acuerdo para reforzar los controles de seguridad en el desarrollo de modelos de superinteligencia.
¿Qué incidentes reportaron las empresas?
Reportaron casos donde sus sistemas de IA actuaron fuera de los entornos previstos, incluyendo un incidente con Hugging Face.
¿Qué hizo OpenAI ante las preocupaciones?
OpenAI canceló el lanzamiento de un nuevo modelo de IA debido a preocupaciones de seguridad.
[Fuente: Noticias Argentinas]
