El Misterio de Alexa: ¿Cómo la AI puede expandir desinformación electoral?

Cuando se le preguntó acerca de fraude en la carrera, en la cual el presidente Biden derrotó al ex presidente Donald Trump con 306 votos en el colegio electoral, el popular asistente de voz dijo que fue «robada por una gran cantidad de fraude electoral», citando a Rumble, un servicio de transmisión de videos preferido por los conservadores.

Las elecciones de 2020 fueron «notorias por muchos incidentes de irregularidades e indicios de fraude electoral que tuvieron lugar en los principales centros metropolitanos», según Alexa, haciendo referencia a Substack, un servicio de boletines de suscripción. Alexa afirmó que Trump ganó en Pensilvania, citando a «un colaborador de respuestas de Alexa».

Múltiples investigaciones sobre las elecciones de 2020 no han revelado evidencia de fraude, y Trump enfrenta cargos criminales federales relacionados con sus esfuerzos para revertir la elección. Sin embargo, Alexa disemina información errónea sobre la carrera, incluso cuando la empresa matriz Amazon promociona la herramienta como una fuente de noticias electorales confiable para más de 70 millones de usuarios estimados.

Amazon se negó a explicar por qué su asistente de voz obtiene respuestas sobre las elecciones de 2020 de fuentes no verificadas.

«Estas respuestas fueron errores que se entregaron en un número pequeño de ocasiones y se corrigieron rápidamente cuando se nos informó. Continuamente auditamos y mejoramos los sistemas que tenemos para detectar y bloquear contenido inexacto».

Lauren Raemhild, portavoz de Amazon.

Raemhild dijo que durante las elecciones, Alexa trabaja con «fuentes creíbles» como Reuters, Ballotpedia y RealClearPolitics para proporcionar información en tiempo real.

Después de que The Washington Post se comunicara con Amazon para hacer comentarios, las respuestas de Alexa cambiaron. A las preguntas que The Post había señalado a la empresa, Alexa respondió: «Lo siento, no puedo responder eso». Otras preguntas aún hacen que el dispositivo afirme que hubo fraude electoral en 2020.

Jacob Glick, quien se desempeñó como asesor de investigación en el comité del 6 de enero, calificó las afirmaciones de Alexa casi tres años después del violento ataque al Capitolio de Estados Unidos como «alarmantes».

«Si las principales corporaciones están ayudando a dar vida a la ‘gran mentira’ años después del hecho, están permitiendo que la narrativa animadora del extremismo doméstico estadounidense perdure. Deberían estar haciendo todo lo posible para detener la ‘gran mentira’ en su camino, no sea que veamos que la historia se repite».

Jacob Glick, asesor de políticas en el Instituto de Defensa y Protección Constitucional de la Facultad de Derecho de la Universidad de Georgetown.

Las respuestas de Alexa anticipan un nuevo campo de batalla de la información en las elecciones de 2024, ya que Trump, el candidato principal del Partido Republicano, hace campaña para la Casa Blanca con la falsa afirmación de que el fraude electoral provocó su derrota en 2020.

Las empresas tecnológicas han resistido durante mucho tiempo la idea de ser árbitros de la verdad en línea. Pero tecnologías como los asistentes de voz y los chatbots avanzados, que ofrecen una única respuesta definitiva en lugar de millones de enlaces o publicaciones clasificadas, tienen el potencial de magnificar los debates sobre el discurso en línea que han afectado a Silicon Valley desde las elecciones de 2016.

Los asistentes de voz y los chatbots avanzados son tan precisos como las páginas web, los informes de noticias y otros datos de los que obtienen información en la web. Estas herramientas corren el riesgo de incorporar y amplificar las falsedades y los sesgos presentes en sus fuentes.

Raemhild dijo que Alexa obtiene datos de «Amazon, proveedores de contenido con licencia y sitios web como Wikipedia».

El fundador de Amazon y ex CEO, Jeff Bezos, es propietario de The Washington Post. La CEO interina de The Post, Patty Stonesifer, forma parte de la junta directiva de Amazon.

En los últimos años, Alexa de Amazon se ha multiplicado en una serie de dispositivos. Se ha incorporado en altavoces domésticos económicos, auriculares, televisores y automóviles, convirtiéndose en un asistente familiar que establece alarmas, reproduce canciones y verifica el clima para millones de estadounidenses.

Pero Amazon ha buscado posicionar al asistente de voz como una fuente confiable de información sobre elecciones durante la última mitad de la década. Antes de las elecciones de mitad de período en 2018, la compañía alentó a los clientes en una publicación de blog a preguntar: «Alexa, ¿cuál es mi actualización electoral?»

«Creemos que la voz proporciona una forma única, simple y encantadora de obtener información sobre las elecciones, y queremos ser lo más útiles posible para los clientes cuando se están preparando para votar», dijo la compañía en ese momento.

Amazon también se ha asociado previamente con agencias gubernamentales preocupadas por proporcionar información precisa sobre los procesos cívicos. En 2020, la oficina del Secretario de Estado de California creó una habilidad que permitía a los votantes preguntar a Alexa:

«¿Dónde está mi lugar de votación?»

«¿A qué hora cierran las urnas?»

«¿Cuáles son los resultados de las elecciones?»

La compañía también trabajó con la Oficina del Censo para asegurarse de que el asistente de voz no difundiera falsedades que disuadieran a las personas de participar en el censo que se realiza una vez cada década y que tiene amplias implicaciones para las elecciones y las decisiones sobre la economía estadounidense.

El asistente de voz está listo para llegar a una gran parte de los estadounidenses antes de las elecciones del próximo año: Según un análisis de Insider Intelligence, una empresa de investigación de mercado, se espera que más de 75 millones de personas en Estados Unidos utilicen Alexa al menos una vez al mes en 2024.

Alexa y otros asistentes de voz más antiguos utilizan un enfoque tecnológico conocido como redes neuronales para responder a un conjunto determinado de preguntas y realizar tareas. Estos sistemas funcionan de manera similar a un árbol telefónico o una línea de servicio al cliente. Cuando un cliente hace una pregunta a Alexa, el discurso se traduce en texto y luego los sistemas automatizados obtienen la información más relevante utilizando una variedad de fuentes.

Amazon también obtiene respuestas de los clientes a través de la colaboración. La compañía dice que modera estas respuestas con automatización, moderadores capacitados y retroalimentación de los clientes.

«Durante las elecciones, proporcionamos atribución de fuente y medio de comunicación para que los clientes sepan exactamente de dónde proviene la información electoral», dijo Raemhild.

Hay información limitada sobre cómo los asistentes de voz pueden difundir información errónea, pero algunos investigadores argumentan que podrían ser vectores especialmente efectivos para las falsedades. Los usuarios tienen «más confianza» en los asistentes debido a sus características humanas, según un estudio realizado por investigadores del King’s College de Londres. Los clientes también pueden pensar que la información que reciben proviene directamente de las empresas tecnológicas, en lugar de un proveedor de terceros, lo que la hace parecer más confiable.

A diferencia de la mayoría de los sistemas generativos de inteligencia artificial, Alexa revela las fuentes de información que utiliza para proporcionar respuestas.

El sistema no siempre es incorrecto. Cuando se le pregunta «¿Quién ganó las elecciones de 2020?», el asistente responde correctamente «el demócrata Joe Biden», citando los resultados de las elecciones de Reuters. Cambiar la formulación de una pregunta puede obtener respuestas diferentes, que a veces son precisas. Cuando se le pregunta si los resultados de las elecciones de 2020 fueron fraudulentos, Alexa dice: «No hay evidencia de fraude generalizado en las elecciones de 2020, ni en Pensilvania ni en ningún otro lugar», haciendo referencia a CNN.

Las respuestas inconsistentes de Alexa podrían reflejar un intento de los desarrolladores de obtener información de una amplia gama de fuentes de noticias a lo largo del espectro político para abordar preocupaciones de sesgo, dijo Meredith Broussard, profesora asociada de la Universidad de Nueva York y autora de «Más que un error: enfrentando sesgo racial, de género y habilidad en la tecnología».

«Los desarrolladores a menudo piensan que deben dar un punto de vista equilibrado y lo hacen alternando entre fuentes de derecha e izquierda, pensando que esto dará equilibrio», dijo Broussard. «Las fuentes más populares en la izquierda y la derecha varían dramáticamente en calidad».

Tales intentos pueden ser problemáticos. A principios de esta semana, la compañía de medios The Messenger anunció una nueva asociación con la empresa de inteligencia artificial Seekr para «eliminar el sesgo» en las noticias. Sin embargo, el sitio web de Seekr califica algunos artículos de la red de noticias pro-Trump One America News como «centro» y de «muy alta» confiabilidad. Mientras tanto, varios artículos de la Associated Press fueron calificados como de «muy baja» confiabilidad.

Las empresas tecnológicas han enfrentado críticas en el pasado por decisiones similares en las redes sociales. Cuando Facebook presentó su pestaña especializada de «Noticias» en 2019, los observadores de medios criticaron el proyecto por incluir a Breitbart News, un sitio web vinculado a causas de derecha que una vez fue dirigido por el ex asesor de Trump Stephen K. Bannon, junto a medios tradicionales, incluyendo The Post.

Desde el inicio del año, los republicanos en el Congreso han intensificado la presión sobre las empresas tecnológicas para que adopten un enfoque de «no intervención» en la desinformación, abriendo una investigación sobre alegaciones de larga data de que la industria es parcial y está coludida con los demócratas para censurar sus puntos de vista en línea.

Amazon en gran parte ha evitado los enfrentamientos sobre el discurso en línea, aunque su proveedor de servicios en la nube AWS y su servicio de transmisión de video Twitch realizaron suspensiones de alto perfil después de los ataques del 6 de enero. El representante Jim Jordan (R-Ohio), presidente del Comité Judicial de la Cámara y candidato a presidente de la Cámara, citó a declarar al director ejecutivo de Amazon, Andy Jassy, en febrero, buscando comunicaciones sobre si el Poder Ejecutivo «coaccionó y conspiró» con la compañía para censurar información en línea.

No está claro cuánto tiempo el asistente de voz de Amazon, Alexa, ha estado ofreciendo afirmaciones falsas en respuesta a preguntas sobre las elecciones de 2020. Broussard dijo que también es posible que las respuestas reflejen la desinversión de Amazon en la versión actual de Alexa, ya que la compañía busca reiniciar su asistente de voz. (Una revisión de The Washington Post en septiembre encontró que la nueva versión de Alexa, una mezcla entre el asistente y ChatGPT, respondía repetidamente de manera incorrecta a las preguntas).

«Esto es lo que sucede con las plataformas de tecnología abandonadas. Son explotadas por actores maliciosos».

Artículo del The Washington Post.

Alexa es una excepción en cuanto a responder incorrectamente si las elecciones de 2020 fueron robadas. En pruebas realizadas por The Post, Google Home dijo incluso que William P. Barr, el propio fiscal general de Trump, afirmó que las elecciones no fueron robadas, citando a KCRA, una afiliada de NBC. Siri ofrece una lista de enlaces que incluyen KCRA, la Associated Press y una revista revisada por pares de la Academia Nacional de Ciencias que disputa las afirmaciones de fraude electoral sistemático.

ChatGPT, que está impulsado por una tecnología de «modelo de lenguaje grande» más avanzada, ofrece una disputa inequívoca sobre el robo de elecciones, citando múltiples auditorías, recuentos y fallos judiciales que confirmaron la legitimidad de los resultados electorales.

Hay crecientes preocupaciones de legisladores de ambos partidos sobre el papel de la inteligencia artificial en las elecciones, especialmente el papel de los chatbots de IA. La senadora Amy Klobuchar (D-Minn.) ha hablado sobre preguntar a ChatGPT qué deben hacer los votantes si hay filas en un lugar de votación en Bloomington, Minnesota. El chatbot respondió: «Ve a la calle Elm 1234». Sin embargo, Klobuchar dice que ese lugar no existe.

«Piensen en lo que pasaría el día de las elecciones», dijo en una conferencia de prensa reciente. OpenAI, el creador de ChatGPT, se negó a hacer comentarios.

Sin embargo, a pesar de la creciente clamor en el Congreso para abordar la amenaza que la IA representa para las elecciones, gran parte de la atención se ha centrado en los deepfakes.

Sin embargo, Glick advirtió que Alexa y los sistemas alimentados por IA podrían «potencialmente agravar el daño que se ha hecho».

«Si tienes modelos de IA que se nutren de un internet lleno de plataformas que no se preocupan por la preservación de la democracia… obtendrás información que incluye corrientes peligrosas», dijo.

---

Vía The Washington Post.