14 de abril de 2024

El anonimato puede llegar a su fin

Una tarde a principios de 2017, en la sede de Facebook en Menlo Park, California, un ingeniero llamado Tommer Leyvand se encontraba en una sala de conferencias con un smartphone colocado en la visera de su gorra de béisbol.

Anonimato

Bandas elásticas lo mantenían en su lugar, con la cámara mirando hacia afuera. El extraño sombrero-telefono, una versión particularmente poco atractiva del futuro, contenía una herramienta secreta conocida solo por un pequeño grupo de empleados. Lo que podía hacer era sorprendente.

Los pocos hombres en la sala estaban riendo y hablando emocionadamente, como se ve en un video tomado ese día, hasta que uno de ellos pidió silencio. La sala se quedó en silencio; la demostración estaba en marcha.

El Sr. Leyvand se giró hacia un hombre al otro lado de la mesa. La lente de la cámara del smartphone, redonda, negra e imperturbable, se cernía sobre la frente del Sr. Leyvand como un ojo de Cíclope mientras capturaba el rostro ante él. Dos segundos después, una voz robótica femenina declaró: «Zach Howard».

«Ése soy yo»

Sr. Zach Howard, ingeniero mecánico.

Un empleado que vio la demostración de la tecnología pensó que era una broma. Pero cuando el teléfono comenzó a llamar correctamente a los nombres, lo encontró inquietante, como algo sacado de una película distópica.

El sombrero-telefono de identificación de personas sería de gran ayuda para alguien con problemas de visión o con dificultades para reconocer rostros, pero también era arriesgado. El despliegue anterior de la tecnología de reconocimiento facial de Facebook, para ayudar a las personas a etiquetar a sus amigos en fotos, había provocado la indignación de los defensores de la privacidad y había llevado a una demanda colectiva en Illinois en 2015 que finalmente le costó a la empresa 650 millones de dólares.

Con tecnología como la que llevaba el Sr. Leyvand en la cabeza, Facebook podría evitar que los usuarios olvidaran el nombre de un colega, dar un recordatorio en una fiesta de cóctel de que un conocido tenía hijos de los que preguntar o ayudar a encontrar a alguien en una conferencia abarrotada. Sin embargo, seis años después, la empresa ahora conocida como Meta no ha lanzado una versión de ese producto, y el Sr. Leyvand se ha marchado a Apple para trabajar en sus gafas de realidad aumentada Vision Pro.

En los últimos años, las start-ups Clearview AI y PimEyes han empujado los límites de lo que el público creía posible al lanzar motores de búsqueda de rostros combinados con millones de fotos de la web pública (PimEyes) o incluso miles de millones (Clearview).

Con estas herramientas, disponibles para la policía en el caso de Clearview AI y para el público en general en el caso de PimEyes, una foto de alguien se puede utilizar para encontrar otras fotos en línea en las que aparece ese rostro, revelando potencialmente un nombre, perfiles en redes sociales o información que una persona nunca querría que se vinculara públicamente, como fotos comprometidas.

Lo que hicieron estas start-ups no fue un avance tecnológico; fue un avance ético. Los gigantes tecnológicos habían desarrollado la capacidad de reconocer rostros desconocidos años antes, pero habían decidido mantener la tecnología bajo control, considerando que la versión más extrema, poner un nombre a un rostro desconocido, era demasiado peligrosa para ponerla ampliamente a disposición.

Ahora que se ha roto el tabú, la tecnología de reconocimiento facial podría volverse omnipresente. Actualmente utilizada por la policía para resolver crímenes, por gobiernos autoritarios para vigilar a sus ciudadanos y por empresas para mantener a raya a sus enemigos, pronto podría convertirse en una herramienta al alcance de todos nosotros, una aplicación en nuestro teléfono o en gafas de realidad aumentada, que abriría la puerta a un mundo sin desconocidos.

«Decidimos detenernos»

Tan pronto como en 2011, un ingeniero de Google reveló que había estado trabajando en una herramienta para buscar el rostro de alguien en Google y mostrar otras fotos en línea de esa persona. Meses después, el presidente de Google, Eric Schmidt, dijo en una entrevista en el escenario que Google «construyó esa tecnología y la retuvimos».

«Hasta donde yo sé, es la única tecnología que Google construyó y, después de mirarla, decidimos detenernos»

Eric Schmidt, Presidente de Google.

Consciente o inconscientemente, los gigantes tecnológicos también ayudaron a mantener la tecnología fuera de circulación general comprando las empresas emergentes más avanzadas que la ofrecían. En 2010, Apple compró una prometedora empresa sueca de reconocimiento facial llamada Polar Rose. En 2011, Google adquirió una empresa de reconocimiento facial estadounidense popular entre las agencias federales llamada PittPatt. Y en 2012, Facebook compró la empresa israelí Face.com. En cada caso, los nuevos propietarios cerraron los servicios de las empresas adquiridas para los externos. Los gigantes del Valle de Silicona eran los guardianes de facto de cómo y si se utilizaría la tecnología.

Facebook, Google y Apple implementaron la tecnología de reconocimiento facial de lo que consideraban formas relativamente benignas: como una herramienta de seguridad para desbloquear un teléfono inteligente, una forma más eficiente de etiquetar a amigos conocidos en fotos y una herramienta de organización para categorizar las fotos de teléfonos inteligentes por los rostros de las personas en ellas.

Sin embargo, en los últimos años, las puertas han sido derribadas por empresas más pequeñas y agresivas, como Clearview AI y PimEyes. Lo que permitió el cambio fue la naturaleza de código abierto de la tecnología de redes neuronales, que ahora sustenta la mayoría del software de inteligencia artificial.

Comprender la trayectoria de la tecnología de reconocimiento facial nos ayudará a navegar por lo que está por venir con otros avances en inteligencia artificial, como herramientas de generación de imágenes y texto. El poder de decidir lo que pueden y no pueden hacer será cada vez más determinado por cualquier persona con un poco de conocimiento técnico, que puede no prestar atención a lo que el público general considera aceptable.

«Parados sobre los hombros de gigantes»

¿Cómo llegamos a este puntoen el que alguien puede identificar a un «papá guapo» en una acera de Manhattan y luego usar PimEyes para intentar descubrir quién es y dónde trabaja? La respuesta corta es una combinación de código gratuito compartido en línea, una vasta colección de fotos públicas, trabajos académicos que explican cómo ponerlo todo junto y una actitud despreocupada hacia las leyes que regulan la privacidad.

El cofundador de Clearview AI, Hoan Ton-That, quien lideró el desarrollo tecnológico de su empresa, no tenía una formación especial en biometría. Antes de Clearview AI, creó cuestionarios de Facebook, juegos para iPhone y aplicaciones tontas, como «Trump Hair» para que una persona en una foto pareciera peinada como el expresidente.

En su búsqueda por crear una aplicación innovadora y más lucrativa, el Sr. Ton-That recurrió a recursos en línea gratuitos, como OpenFace, una «biblioteca de reconocimiento facial» creada por un grupo de la Universidad Carnegie Mellon. La biblioteca de código estaba disponible en GitHub, con una advertencia:

«¡Úsela de manera responsable!»

«Nosotros no apoyamos el uso de este proyecto en aplicaciones que violen la privacidad y la seguridad», decía la declaración. «Estamos utilizando esto para ayudar a los usuarios con discapacidad cognitiva a percibir y comprender el mundo que les rodea».

Era una solicitud noble pero completamente imposible de hacer cumplir.

El Sr. Ton-That puso en marcha el código de OpenFace, pero no era perfecto, así que siguió buscando, explorando la literatura académica y los repositorios de código, probando esto y aquello para ver qué funcionaba. Era como una persona que camina por un huerto, probando el fruto de décadas de investigación, maduro para ser recogido y gloriosamente gratuito.

«No podría haberlo hecho si hubiera tenido que construirlo desde cero», dijo, mencionando a algunos de los investigadores que habían avanzado en la visión por computadora y la inteligencia artificial, incluido Geoffrey Hinton, «el padrino de la IA». «Estaba parado sobre los hombros de gigantes».

El Sr. Ton-That todavía está construyendo. Clearview ha desarrollado una versión de su aplicación que funciona con gafas de realidad aumentada, una realización más completa del sombrero telefónico que el equipo de ingeniería de Facebook había improvisado años antes.

El fin del anonimato

Las gafas de realidad aumentada de 999 dólares, fabricadas por una empresa llamada Vuzix, conectan al usuario con la base de datos de 30 mil millones de rostros de Clearview. La aplicación de A.R. de Clearview, que puede identificar a alguien a una distancia de hasta 10 pies, aún no está disponible para el público, pero la Fuerza Aérea ha proporcionado financiación para su posible uso en bases militares.

En una tarde de otoño, el Sr. Ton-That me demostró las gafas en el apartamento de su portavoz en el Upper West Side de Manhattan, se las puso y me miró.

«Oh, 176 fotos», dijo. «Festival de Ideas de Aspen. Kashmir Hill», leyó el título de una de las fotos que apareció.

Luego me entregó las gafas. Me las puse. Aunque parecían aparatosas, eran ligeras y se ajustaban de forma natural. El Sr. Ton-That dijo que había probado otras gafas de realidad aumentada, pero estas habían funcionado mejor. «Tienen una nueva versión en camino», dijo. «Y se verán más modernas, más hipsters».

Cuando miré al Sr. Ton-That a través de las gafas, un círculo verde apareció alrededor de su rostro. Toqué un panel táctil en mi sien derecha. Apareció un mensaje en una pantalla cuadrada que solo yo podía ver en la lente derecha de las gafas: «Buscando…»

Y luego el cuadro se llenó de fotos de él, con un título debajo de cada una. Las recorrí usando el panel táctil. Toqué para seleccionar una que decía «Director Ejecutivo de Clearview, Hoan Ton-That»; incluía un enlace que me mostraba que provenía del sitio web de Clearview.

Miré a su portavoz, busqué su rostro y aparecieron 49 fotos, incluida una con un cliente que me pidió que no mencionara. Esto reveló de manera casual cuán intrusiva puede ser una búsqueda del rostro de alguien, incluso para una persona cuyo trabajo es lograr que el mundo abrace esta tecnología.

Quería llevar las gafas afuera para ver cómo funcionaban en personas que en realidad no conocía, pero el Sr. Ton-That dijo que no podíamos, tanto porque las gafas requerían una conexión Wi-Fi como porque alguien podría reconocerlo y darse cuenta inmediatamente de lo que eran las gafas y de lo que podían hacer.

No me asustó, aunque sabía que debería. Era evidente que las personas que posean una herramienta como esta inevitablemente tendrán poder sobre quienes no la tienen. Pero había una cierta emoción al verla funcionar, como un truco de magia realizado con éxito.

¿Una oportunidad perdida?

Meta ha estado trabajando durante años en sus propias gafas de realidad aumentada. En una reunión interna a principios de 2021, el director de tecnología de la empresa, Andrew Bosworth, dijo que le encantaría equiparlas con capacidades de reconocimiento facial.

En una grabación de la reunión interna, el Sr. Bosworth dijo que dejar fuera el reconocimiento facial de las gafas de realidad aumentada era una oportunidad perdida para mejorar la memoria humana. Habló de la experiencia universal de ir a una cena y ver a alguien que conoces pero no recordar su nombre.

«Podríamos ponerles una pequeña etiqueta de nombre. Podríamos. Tenemos esa capacidad».

Andrew Bosworth, Director de tecnología de Meta.

Pero expresó preocupación por la legalidad de ofrecer una herramienta así. Buzzfeed informó sobre sus comentarios en ese momento. En respuesta, el Sr. Bosworth dijo que el reconocimiento facial era «enormemente controvertido» y que otorgar un acceso amplio a él era «un debate que debemos tener con el público».

Aunque las gafas de realidad aumentada de Meta todavía están en desarrollo, la empresa cerró el sistema de reconocimiento facial que se utilizaba en Facebook para etiquetar a amigos en fotos

y eliminó las más de mil millones de impresiones faciales que había creado de sus usuarios.

Sería lo suficientemente fácil volver a activar dicho sistema. Cuando pregunté a un portavoz de Meta sobre los comentarios del Sr. Bosworth y si la empresa podría incorporar el reconocimiento facial en sus gafas de realidad aumentada en el futuro, no descartó la posibilidad.


Fuente: NYT.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *