La era oscura de la Inteligencia Artificial: Deepfakes y la vulnerabilidad de las adolescentes

En Almendralejo, España, se ha detectado la creación y difusión de imágenes pornográficas falsas de adolescentes, evidenciando la extensión global de esta problemática.

Los deepfakes, que duplican su número en internet cada seis meses, son mayoritariamente utilizados para generar pornografía sin consentimiento, con las mujeres siendo víctimas en el 95% de los casos.

Estas creaciones hiperrealistas se basan en técnicas de aprendizaje profundo y redes neuronales generativas antagónicas (GAN), facilitadas por aplicaciones de fácil acceso y la disponibilidad de plataformas en la nube.

A pesar de que algunas compañías han intentado limitar la generación de imágenes violentas o adultas, la naturaleza abierta de la tecnología y la facilidad para eludir los controles hacen que muchas aplicaciones sigan siendo accesibles en la Red.

Los deepfakes no solo afectan a figuras públicas sino que también pueden ser creados con cualquier persona, utilizando imágenes de redes sociales o robadas de dispositivos personales. Esto subraya la importancia de proteger la privacidad y las imágenes en la era digital.

La utilización de deepfakes de mujeres es reconocida como una forma de violencia machista. Instituciones como el Instituto Europeo para la Igualdad de Género y expertos del MIT enfatizan que esta violencia online es una extensión de la violencia diaria contra mujeres y niñas, amplificada y agravada por internet y los dispositivos digitales.

A nivel legal, se plantea la necesidad de una regulación que trate los deepfakes como un delito contra la integridad moral, proponiendo incluso el concepto de pseudopornografía para abordar los casos donde se usan imágenes realistas para dañar la intimidad y el honor de las personas.

Aunque se han presentado propuestas legislativas para abordar la difusión de deepfakes, estas aún no se han concretado en reformas legales efectivas.

Este escenario presenta un reto significativo para la sociedad y la legislación, resaltando la urgente necesidad de establecer medidas de protección y regulaciones eficientes para combatir esta nueva forma de ciberviolencia y proteger a los grupos más vulnerables, especialmente las adolescentes.

Fuente: El País.