14 de abril de 2024

Cofundador de DeepMind dice que la AI generativa es solo el comienzo

Mustafa Suleyman, cofundador de DeepMind, quiere construir un chatbot que haga mucho más que simplemente chatear.

AI

En una reciente conversación que tuve con él, me dijo que la IA generativa es solo una fase. Lo siguiente es la IA interactiva: bots que pueden llevar a cabo tareas que les establezcas llamando a otros programas y personas para realizar el trabajo. También aboga por una regulación sólida, y no cree que sea difícil de lograr.

Suleyman no es el único que habla de un futuro lleno de software cada vez más autónomo. Pero a diferencia de la mayoría de las personas, él tiene una nueva empresa multimillonaria llamada Inflection, con un elenco de talento de primer nivel reclutado de DeepMind, Meta y OpenAI, y gracias a un acuerdo con Nvidia, uno de los mayores almacenes de hardware de IA especializado en el mundo. Suleyman ha puesto su dinero, del que me dice que no está interesado y quiere ganar más, donde está su boca.

«Este es un momento profundo en la historia de la tecnología»Mustafa Suleyman.

Mustafa Suleyman, Cofundador de DeepMind

Suleyman ha tenido una fe inquebrantable en la tecnología como una fuerza para el bien, al menos desde que hablamos por primera vez a principios de 2016. Acababa de lanzar DeepMind Health y había establecido colaboraciones de investigación con algunos de los proveedores de atención médica regionales dirigidos por el estado en el Reino Unido.

La revista para la que trabajaba en ese momento estaba a punto de publicar un artículo que afirmaba que DeepMind no había cumplido con las regulaciones de protección de datos al acceder a los registros de aproximadamente 1.6 millones de pacientes para establecer esas colaboraciones, una afirmación respaldada posteriormente por una investigación gubernamental. Suleyman no podía entender por qué publicaríamos una historia hostil a los esfuerzos de su empresa por mejorar la atención médica. Desde siempre, me dijo en ese momento, solo había querido hacer el bien en el mundo.

En los siete años desde esa llamada, la misión de Suleyman de ojos abiertos no ha cambiado ni un ápice. «El objetivo nunca ha sido otra cosa que hacer el bien en el mundo», dice a través de Zoom desde su oficina en Palo Alto, donde el empresario británico pasa la mayor parte de su tiempo.

Suleyman dejó DeepMind y se mudó a Google para liderar un equipo de trabajo en política de IA. En 2022 fundó Inflection, una de las nuevas empresas de IA más destacadas, respaldada con 1.5 mil millones de dólares de inversión de Microsoft, Nvidia, Bill Gates y Reid Hoffman, fundador de LinkedIn. A principios de este año, lanzó un competidor de ChatGPT llamado Pi, cuyo punto de venta único (según Suleyman) es que es agradable y educado. Y acaba de coescribir un libro sobre el futuro de la IA con el escritor e investigador Michael Bhaskar, llamado «La Ola Venidera: Tecnología, Poder y el Mayor Dilema del Siglo XXI».

Muchos se burlarán del tipo de tecnooptimismo, e incluso ingenuidad, de Suleyman. Algunas de sus afirmaciones sobre el éxito de la regulación en línea parecen estar lejos de la realidad, por ejemplo. Sin embargo, sigue siendo sincero y evangelizador en sus convicciones.

Es cierto que Suleyman tiene un trasfondo inusual para ser multimillonario de la tecnología. Cuando tenía 19 años, abandonó la universidad para fundar el Línea de Ayuda para la Juventud Musulmana, un servicio de asesoramiento telefónico. También trabajó en el gobierno local. Dice que trae consigo muchos de los valores que informaron esos esfuerzos a Inflection. La diferencia es que ahora podría estar en posición de realizar los cambios que siempre ha querido, para bien o para mal.

La siguiente entrevista ha sido editada por cuestiones de extensión y claridad.

Su carrera temprana, con la línea de ayuda para jóvenes y el trabajo en el gobierno local, fue tan poco glamorosa y alejada de Silicon Valley como se puede llegar. Claramente, esas cosas le importan. Luego pasó 15 años en IA y este año cofundó su segunda empresa de IA multimillonaria.

¿Puede conectar los puntos?

Siempre me ha interesado el poder, la política y demás. Ya sabes, los principios de los derechos humanos son básicamente compromisos, una negociación constante entre todas estas tensiones en conflicto. Pude ver que los humanos estaban lidiando con eso, estamos llenos de nuestros propios sesgos y puntos ciegos. El trabajo activista, el gobierno local, nacional, internacional, etc., todo es lento, ineficiente y falible.

Imagina si no tuviéramos la falibilidad humana. Creo que es posible construir IA que reflejen verdaderamente nuestras mejores colectivas y que, en última instancia, tomen mejores decisiones, de manera más consistente y justa, en nuestro nombre.

¿Y eso todavía es lo que te motiva?

Quiero decir, por supuesto, después de DeepMind nunca tuve que trabajar nuevamente. Ciertamente no tuve que escribir un libro ni nada por el estilo. El dinero nunca ha sido la motivación. Siempre ha sido, ya sabes, solo un efecto secundario.

Para mí, el objetivo nunca ha sido otra cosa que hacer el bien en el mundo y cómo avanzar en el mundo de una manera saludable y satisfactoria. Incluso en 2009, cuando empecé a pensar en entrar en la tecnología, pude ver que la IA representaba una forma justa y precisa de prestar servicios en el mundo.

No puedo evitar pensar que fue más fácil decir ese tipo de cosas hace 10 o 15 años, antes de haber visto muchos de los aspectos negativos de la tecnología. ¿Cómo logras mantener tu optimismo?

Creo que estamos obsesionados con si eres un optimista o un pesimista. Esta es una forma completamente sesgada de ver las cosas. No quiero ser ninguno de los dos. Quiero mirar fríamente los beneficios y las amenazas. Y desde donde estoy, podemos ver muy claramente que, con cada paso en la escala de estos grandes modelos de lenguaje, se vuelvenmás controlables.

Entonces, hace dos años, la conversación, de manera incorrecta en mi opinión en ese momento, era: «Oh, simplemente van a producir cosas tóxicas, regurgitadas, sesgadas, panfletos racistas». Yo pensaba que esta es una instantánea en el tiempo. Creo que lo que la gente pierde de vista es la progresión año tras año y la trayectoria de esa progresión.

Ahora tenemos modelos como Pi, por ejemplo, que son increíblemente controlables. No puedes hacer que Pi produzca cosas racistas, homofóbicas, sexistas, ningún tipo de contenido tóxico. No puedes hacer que te asesore para producir un arma biológica o química o para respaldar tu deseo de arrojar una piedra a través de la ventana de tu vecino. No puedes hacerlo…

Es importante señalar que no todas las afirmaciones de Suleyman aquí están respaldadas por números. La ciberdelincuencia sigue siendo un problema global masivo. Según algunas estimaciones, el costo financiero en los Estados Unidos ha aumentado más de 100 veces en la última década. Los informes muestran que la economía de la pornografía deepfake no consensual está en auge. Las drogas y las armas se promocionan en las redes sociales. Y aunque algunas plataformas en línea están siendo presionadas para hacer un mejor trabajo en la filtración de contenido dañino, podrían hacer mucho más.

Entonces, no es como si Internet fuera un espacio indisciplinado que no esté regulado. Está regulado. Y la IA solo será otro componente de esa regulación.

Se necesita una combinación de presión cultural, presión institucional y, obviamente, regulación gubernamental. Pero me hace ser optimista que lo hemos hecho antes y podemos hacerlo de nuevo.

Controlar la IA será una consecuencia de la regulación en Internet, esa es una nota mucho más positiva que la que hemos escuchado de varios pesimistas de alto perfil últimamente.

Soy muy iluso acerca de los riesgos. Hay muchas cosas oscuras en mi libro. Definitivamente también lo veo. Solo creo que la cuestión de los riesgos existenciales ha sido una distracción completamente loca. Hay como 101 problemas más prácticos de los que todos deberíamos estar hablando, desde la privacidad hasta el sesgo hasta el reconocimiento facial hasta la moderación en línea.

Deberíamos simplemente enfocar la conversación en el hecho de que hemos hecho un trabajo increíble regulando cosas súper complejas. Mira la Administración Federal de Aviación: es increíble que todos subamos a estas latas a 40,000 pies y sea uno de los modos de transporte más seguros jamás inventados. ¿Por qué no estamos celebrando esto? O piensa en los automóviles: cada componente se somete a pruebas de estrés hasta el límite y debes tener una licencia para conducirlo.

Pero también necesitas regulación desde arriba. Amo al estado-nación. Creo en el interés público, creo en el poder de los impuestos y la redistribución, creo en el poder de la regulación. Y lo que estoy pidiendo es acción por parte del estado-nación para arreglar sus problemas. Dado lo que está en juego, es hora de ponerse en marcha.


Vía MIT Review.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *