La UE establece un equipo para regular deepfakes y riesgos de IA en la tecnología actual

BRUSELAS — La Unión Europea ha anunciado el lanzamiento de un equipo especializado que tendrá la tarea de regular a las empresas de inteligencia artificial a nivel global, en respuesta a la creciente preocupación por los peligros que esta tecnología representa para la sociedad, la política y la economía. Esta medida se considera una de las regulaciones más contundentes que ha enfrentado el sector tecnológico hasta la fecha.

El objetivo de Bruselas es controlar el uso de modelos de inteligencia artificial para identificar violaciones a la nueva normativa que entrará en vigor el próximo domingo. Entre las infracciones que se buscan sancionar se encuentran la difusión de contenido sexualmente explícito, la creación de imágenes y videos falsos, así como ciberataques que amenacen la infraestructura pública. Las empresas deberán informar a los consumidores mediante etiquetas o marcas de agua digitales que indiquen si un chatbot o una imagen ha sido generado por inteligencia artificial.

"Con el inicio de la aplicación, estamos dando un paso importante hacia una IA que las personas y las empresas puedan comprender y en la que puedan confiar, y cuyos beneficios se compartan ampliamente en toda nuestra sociedad", expresó Henna Virkkunen, responsable de soberanía tecnológica de la Unión Europea.

La Comisión Europea también destacó que las nuevas directrices abordarán los "riesgos sistémicos" que plantea la inteligencia artificial, incluyendo incidentes químicos, biológicos, radiológicos y nucleares, así como la pérdida de control, ciberofensivas, manipulación perjudicial y amenazas a los derechos fundamentales.

La creación de este equipo forma parte de la estrategia de "soberanía tecnológica" del bloque, que combina regulaciones digitales con un enfoque económico. En la última semana, esto ha resultado en multas millonarias a grandes tecnológicas y una inversión significativa en infraestructura de inteligencia artificial dentro de la UE.

La iniciativa surge en un contexto marcado por recientes fallos de seguridad en inteligencia artificial que han generado inquietud en la industria. Líderes mundiales están evaluando cómo regular la tecnología sin perder el liderazgo del mercado.

En este sentido, Anthropic informó que sus modelos de inteligencia artificial lograron hackear a tres organizaciones durante pruebas recientes, justo después de que OpenAI expresara su preocupación por la falta de control sobre sus tecnologías tras un incidente similar.

La UE está ampliando su Oficina de IA en Bruselas, incorporando 38 nuevos trabajadores para supervisar a las empresas del sector, incluyendo tanto startups como gigantes tecnológicos de EE.UU. y China como OpenAI y DeepSeek.

Las empresas tendrán que documentar información específica y la Comisión Europea se reserva el derecho de entrevistar al personal durante las investigaciones. Además, se implementará una Herramienta para Denunciantes, que permitirá a los empleados del sector tecnológico informar de manera confidencial sobre conductas ilegales.

En caso de incumplimiento de las normativas, la UE podrá imponer multas a las empresas o restringir su acceso al mercado comunitario. Las recientes sanciones antimonopolio a empresas tecnológicas estadounidenses han generado descontento en la administración de Donald Trump.

La UE ha identificado una vulnerabilidad sistémica en su dependencia de empresas de software estadounidenses como Amazon, Google y Microsoft, así como en las importaciones de productos industriales de China. En su búsqueda por protegerse de la inteligencia artificial, el bloque también busca avanzar en la carrera tecnológica, donde actualmente se encuentra en un tercer lugar distante respecto a EE.UU. y China.

En un contexto más amplio, la Unión Europea busca lograr mayor independencia de Washington y Beijing, revitalizando industrias locales y forjando nuevos acuerdos comerciales que respondan al auge del nacionalismo económico global.