Lanzan proyecto para inhabilitar a candidatos responsables de "deepfakes" con IA

El diputado nacional de Encuentro Federal, Oscar Agost Carreño, presentó hoy un proyecto de ley para impedir la oficialización como candidatos a las personas que participen en maniobras de manipulación digital mediante Inteligencia Artificial (IA), ya sea creando difundiendo o financiando contenidos falsos que simulen expresiones o actos de terceros con fines electorales.

La propuesta contra los “deepfakes” políticos prevé que, si se confirma la responsabilidad de un candidato, no solo quedará inhabilitado para asumir el cargo, sino que la sanción se extenderá al resto de los integrantes de su lista.

Además de esta cláusula de inhabilitación, la iniciativa del cordobés establece un procedimiento sumarísimo ante la Justicia electoral para determinar responsabilidades en forma rápida durante el desarrollo de las campañas.

El objetivo de este proyecto, que modifica el Código Nacional Electoral, es proteger la integridad de las elecciones frente a los engaños y la manipulación con IA durante las campañas.

/Inicio Código Embebido/

/Fin Código Embebido/

“La inteligencia artificial puede ser una herramienta valiosa al servicio del bien común, pero también puede convertirse en un arma de manipulación masiva cuando se la usa para fabricar discursos, imágenes o audios falsos que alteran la voluntad popular. No podemos permitir que las elecciones se definan por mentiras sintéticas viralizadas en redes sociales”, afirmó Agost Carreño.

Entre los antecedentes que motivaron la propuesta se destacan casos recientes como el video que simulaba un falso anuncio del ex presidente Mauricio Macri en plena veda electoral porteña para favorecer al candidato de La Libertad Avanza, Manuel Adorni, en detrimento de Silvia Lospennato (PRO).

Dicha “deepfake” político generó la airada reacción del partido amarillo, que llevó el caso a la Justicia, la cual terminó resolviendo que se borrara el video de todas las redes sociales donde circuló.

Otro episodio similar que Agost Carreño reseñó en los fundamentos del proyecto fue la difusión de un discurso manipulado atribuido con IA al gobernador de Córdoba, Martín Llaryora y el uso no autorizado de la voz del cantante “La Mona” Jiménez en jingles proselitistas generados con síntesis digital.

Para el diputado cordobés, “este tipo de prácticas configura un atentado directo contra la voluntad popular, ya que rompe las bases del sufragio informado y libre, al alterar la percepción de los votantes mediante mentiras sintéticas de difícil detección”.

Según dijo, “la Inteligencia Artificial es una herramienta poderosa, pero su uso político sin regulación puede derivar en engaños masivos con impacto electoral irreparable, especialmente si los responsables no enfrentan consecuencias”.

“Con este proyecto, propongo una sanción ejemplar y disuasoria, complementaria al régimen penal y a las sanciones administrativas existentes: impedir que quienes operan o consienten estas estrategias accedan a cargos públicos”, indicó.

Y agregó que “la inhabilitación electoral refuerza la necesidad de un juego limpio democrático y desincentiva conductas de manipulación digital”.

“La figura aquí creada es compatible con los principios constitucionales y cuenta con antecedentes comparables en democracias avanzadas. Estados Unidos, la Unión Europea y países latinoamericanos como Brasil han comenzado a establecer regulaciones específicas sobre deepfakes políticos y campañas con IA engañosa, ya que el fenómeno es global”, puntualizó.

Además, destacó que “la Cámara Nacional Electoral ha manifestado en numerosas oportunidades su preocupación por la desinformación digital durante campañas y el uso de redes sociales para manipular la opinión pública”.

“Esta ley no busca limitar la libertad de expresión ni el uso legítimo de nuevas tecnologías, sino garantizar que los ciudadanos puedan votar informados, sin ser engañados por estrategias digitales sofisticadas que distorsionan la realidad”, concluyó Agost Carreño.

Informe de Gonzalo Carrasquera.

Temas