19 de abril de 2024

¿Son las caras blancas generadas por IA más realistas que las fotografías humanas?

Uno de los problemas con el ‘hiperrealismo’ de la IA es que las personas a menudo no se dan cuenta de que están siendo engañadas.

Fotos AI

Los investigadores encontraron que aquellos que consideraban que las caras de IA eran reales eran paradójicamente los más seguros de que sus juicios eran correctos, lo que significa que no sabían que estaban siendo engañados por impostores de IA.

El estudio también reveló por qué las caras de IA están engañando a las personas. Se descubrió que existen diferencias físicas entre las caras de IA y las humanas, pero las personas tienden a malinterpretarlas. Por ejemplo, las caras blancas de IA tienden a ser más proporcionadas y las personas las confunden con un signo de humanidad.

Sin embargo, la tecnología de IA está avanzando tan rápidamente que las diferencias entre las caras de IA y las humanas probablemente desaparecerán pronto.

En un reciente descubrimiento que podría tener profundas implicaciones sociales, un estudio realizado por expertos de la Universidad Nacional de Australia (ANU) ha revelado que las caras blancas generadas por Inteligencia Artificial (IA) ahora parecen más reales que las caras humanas reales.

Este fenómeno se observó particularmente en las caras blancas, mientras que para las imágenes de personas de color, este efecto no se replicó de la misma manera. La principal razón de esta discrepancia radica en que los algoritmos de IA se han entrenado desproporcionadamente con caras blancas, lo que podría tener serias implicaciones para las personas de color al reforzar los sesgos raciales en línea.

Los investigadores argumentan que esta tendencia podría tener graves implicaciones en la proliferación de la desinformación y el robo de identidad. Es esencial que haya una mayor transparencia en torno a la IA para que los investigadores y la sociedad civil puedan identificar problemas antes de que se conviertan en un problema importante.

En el estudio, se utilizaron 200 fotografías, 100 generadas por IA y 100 de humanos reales, y se pidió a 124 participantes que identificaran cuáles eran de IA y cuáles genuinas. De las cinco caras más identificadas como humanas, cuatro eran de IA.

De las cinco principales juzgadas como de IA, cuatro eran humanas. Además, los investigadores realizaron otro experimento en el que más de 600 personas valoraron varias cualidades de las imágenes, como la atracción, la familiaridad y la calidad de la imagen.

A pesar de que existían claras diferencias entre las imágenes de IA y las reales, los participantes o bien malinterpretaron los detalles o no los percibieron en absoluto.

Este hallazgo subraya la necesidad de educar al público sobre el hiperrealismo de la IA actual para evitar la desinformación y las estafas en línea. Además, dado que los humanos ya no pueden detectar las caras de IA, la sociedad necesita herramientas que puedan identificar con precisión a los impostores de IA.

En resumen, este estudio resalta la urgencia de abordar las implicaciones éticas y sociales del avance de la IA, especialmente en lo que respecta a la representación de diferentes etnias y la creación de imágenes realistas. La creciente dificultad para distinguir entre imágenes generadas por IA y fotografías reales plantea interrogantes significativos sobre la fiabilidad y la integridad de las imágenes en la era digital.


Vía The Gardian.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *