Participamos del debate sobre una ley para etiquetar contenidos generados con IA
Fundeps participó de una jornada de intercambio técnico sobre un proyecto de ley impulsado por la diputada Carolina Basualdo. La propuesta busca establecer un régimen de identificación de contenidos generados con inteligencia artificial y prevenir los riesgos que estas tecnologías representan para los derechos humanos.
Especialistas, universidades, organizaciones de la sociedad civil y asociaciones profesionales participaron de una jornada de trabajo convocada por la diputada Carolina Basualdo para debatir un proyecto de ley que propone establecer un régimen de identificación y etiquetado de contenidos digitales generados, modificados o sintetizados mediante inteligencia artificial (IA). Desde Fundeps participamos del encuentro aportando una perspectiva de derechos humanos y género para enriquecer el debate sobre los desafíos que plantea el avance de estas tecnologías.
La iniciativa busca establecer un marco regulatorio que promueva la transparencia de los contenidos generados o modificados mediante inteligencia artificial y fortalezca la protección de derechos frente a fenómenos como la desinformación, la manipulación digital y los deepfakes.
El encuentro combinó una mirada técnica con una perspectiva de derechos humanos. El ingeniero en Computación Germán Lamberti presentó el funcionamiento y las capacidades actuales de la inteligencia artificial generativa, así como los desafíos que implica distinguir contenidos auténticos de aquellos creados o modificados mediante estas herramientas.
En la mesa de trabajo compartimos nuestra experiencia en la defensa y promoción de los derechos humanos. Pusimos el foco en cómo la inteligencia artificial puede profundizar desigualdades preexistentes y agravar una problemática cada vez más presente: la violencia de género facilitada por la tecnología.
La posibilidad de crear imágenes, audios y videos falsos cada vez más realistas sin el consentimiento de las personas ha incrementado los riesgos de acoso, hostigamiento, violencia sexual digital, suplantación de identidad y campañas de desinformación dirigidas especialmente contra mujeres y diversidades. Estas prácticas afectan la privacidad, la integridad y la participación de las personas en los espacios públicos, políticos y laborales, limitando el ejercicio pleno de sus derechos.
La evidencia muestra que estos riesgos ya forman parte de la realidad. Según el informe de ONU Mujeres para América Latina y el Caribe, el 96 % de los videos deepfake disponibles en internet corresponden a contenido sexual no consentido y la gran mayoría tienen como víctimas a mujeres. Estos datos evidencian que la tecnología constituye una extensión de las violencias de género y que las herramientas de inteligencia artificial están amplificando su alcance e impacto.
En Argentina, el informe Silencios digitales, de DataGénero, también alerta sobre el crecimiento de estas violencias y la necesidad de desarrollar respuestas estatales que contemplen los desafíos que presenta la inteligencia artificial para la protección de los derechos humanos.
El desarrollo de estas tecnologías ofrece importantes oportunidades, pero también plantea nuevos desafíos para la protección de los derechos humanos y la democracia. En ese contexto, resulta fundamental avanzar en marcos regulatorios construidos de manera participativa que promuevan la transparencia y prevengan daños.
Desde Fundeps celebramos estos espacios de diálogo multisectorial y seguiremos aportando evidencia y propuestas para que las políticas públicas en materia de inteligencia artificial incorporen una perspectiva de derechos humanos, género y democracia.
Autora:
Noelia Garzón
Contacto:
noelia.garzon@fundeps.org
