14 de abril de 2024

5 a 50 consultas en ChatGPT equivalen a un vaso de 500 ml de agua

El costo de construir un producto de inteligencia artificial como ChatGPT puede ser difícil de medir. Pero una cosa que OpenAI respaldada por Microsoft necesitaba para su tecnología era abundante agua, extraída de la cuenca de los ríos Raccoon y Des Moines en el centro de Iowa, para enfriar una supercomputadora poderosa mientras ayudaba a enseñar a sus sistemas de inteligencia artificial a imitar la escritura humana.

Agua ChatGPT

A medida que compiten por capitalizar la locura por la inteligencia artificial generativa, los principales desarrolladores de tecnología como Microsoft, OpenAI y Google han reconocido que la creciente demanda de sus herramientas de inteligencia artificial conlleva costos elevados, desde semiconductores costosos hasta un aumento en el consumo de agua.

Pero a menudo son secretos sobre los detalles específicos. Pocas personas en Iowa sabían sobre su condición de lugar de nacimiento del modelo de lenguaje grande más avanzado de OpenAI, GPT-4, antes de que un alto ejecutivo de Microsoft dijera en un discurso que «literalmente se hizo al lado de los campos de maíz al oeste de Des Moines».

La construcción de un modelo de lenguaje grande requiere analizar patrones en un gran tesoro de texto escrito por humanos. Todo ese procesamiento requiere mucha electricidad y genera mucho calor. Para mantenerlo fresco en días calurosos, los centros de datos necesitan bombear agua, a menudo a una torre de enfriamiento fuera de sus edificios del tamaño de un almacén.

En su último informe medioambiental, Microsoft reveló que su consumo global de agua aumentó un 34% de 2021 a 2022 (casi 1.700 millones de galones, o más de 2.500 piscinas olímpicas), un aumento brusco en comparación con años anteriores que los investigadores externos relacionan con su investigación en inteligencia artificial.

«Es justo decir que la mayoría del crecimiento se debe a la inteligencia artificial», incluyendo «su fuerte inversión en inteligencia artificial generativa y su asociación con OpenAI», dijo Shaolei Ren, un investigador de la Universidad de California, Riverside, que ha estado tratando de calcular el impacto ambiental de productos de inteligencia artificial generativa como ChatGPT.

En un artículo que se publicará más tarde este año, el equipo de Ren estima que ChatGPT consume 500 mililitros de agua (cerca de lo que hay en una botella de agua de 16 onzas) cada vez que le haces una serie de entre 5 y 50 indicaciones o preguntas. El rango varía según la ubicación de sus servidores y la temporada. La estimación incluye el uso indirecto de agua que las empresas no miden, como enfriar las plantas de energía que suministran electricidad a los centros de datos.

«La mayoría de las personas no son conscientes del uso de recursos que subyace a ChatGPT», dijo Ren. «Si no eres consciente del uso de recursos, entonces no hay manera de que podamos ayudar a conservar los recursos».

Google informó un aumento del 20% en el uso de agua en el mismo período, que Ren también atribuye en gran parte a su trabajo en inteligencia artificial. El aumento de Google no fue uniforme: fue constante en Oregón, donde su uso de agua ha atraído la atención pública, mientras que se duplicó fuera de Las Vegas. También fue sediento en Iowa, donde consumió más agua potable en sus centros de datos en Council Bluffs que en cualquier otro lugar.

En respuesta a preguntas de The Associated Press, Microsoft dijo en un comunicado esta semana que está invirtiendo en investigación para medir la huella energética y de carbono de la inteligencia artificial «mientras trabaja en formas de hacer que los sistemas grandes sean más eficientes, tanto en entrenamiento como en aplicación».

«Continuaremos supervisando nuestras emisiones, acelerando el progreso al aumentar nuestro uso de energía limpia para alimentar los centros de datos, comprar energía renovable y otros esfuerzos para cumplir con nuestros objetivos de sostenibilidad de ser carbono negativo, positivo en agua y cero residuos para 2030», dijo el comunicado de la empresa.

OpenAI hizo eco de esos comentarios en su propio comunicado el viernes, diciendo que está dando «considerable pensamiento» al mejor uso de la potencia informática.

«Reconocemos que entrenar modelos grandes puede ser intensivo en energía y agua»

Comunicado de OpenAI.

Microsoft hizo su primera inversión de mil millones de dólares en OpenAI con sede en San Francisco en 2019, más de dos años antes de que la startup introdujera ChatGPT y despertara la fascinación mundial por los avances en inteligencia artificial. Como parte del acuerdo, el gigante del software suministraría la potencia informática necesaria para entrenar los modelos de inteligencia artificial.

Para hacer al menos parte de ese trabajo, las dos empresas buscaron West Des Moines, Iowa, una ciudad de 68.000 habitantes donde Microsoft ha estado acumulando centros de datos para alimentar sus servicios de computación en la nube durante más de una década. Su cuarto y quinto centros de datos deben abrir allí a finales de este año.

«Los están construyendo tan rápido como pueden», dijo Steve Gaer, quien fue alcalde de la ciudad cuando Microsoft llegó. Gaer dijo que la empresa fue atraída por el compromiso de la ciudad de construir infraestructura pública y contribuyó con una «cantidad asombrosa» de dinero a través de pagos de impuestos que respaldan esa inversión.

«Pero, sabes, fueron bastante secretos sobre lo que están haciendo allí», agregó.

Microsoft dijo por primera vez que estaba desarrollando una de las supercomputadoras más poderosas del mundo para OpenAI en 2020, negándose a revelar su ubicación a AP en ese momento, pero describiéndola como un «sistema único» con más de 285.000 núcleos de semiconductores convencionales y 10.000 procesadores gráficos, un tipo de chip que se ha vuelto crucial para las cargas de trabajo de inteligencia artificial.

Los expertos han dicho que puede tener sentido «preentrenar» un modelo de inteligencia artificial en una ubicación única debido a las grandes cantidades de datos que deben transferirse entre núcleos de cómputo.

No fue hasta finales de mayo que el presidente de Microsoft, Brad Smith, reveló que había construido su «centro de datos de supercomputación de inteligencia artificial avanzada» en Iowa, exclusivamente para permitir a OpenAI entrenar lo que se ha convertido en su modelo de

cuarta generación, GPT-4. El modelo ahora alimenta las versiones premium de ChatGPT y algunos de los propios productos de Microsoft y ha acelerado un debate sobre cómo contener los riesgos sociales de la inteligencia artificial.

«Fue hecho por estos ingenieros extraordinarios en California, pero realmente fue hecho en Iowa»

Brad Smith, presidente de Microsoft.

En cierto sentido, West Des Moines es un lugar relativamente eficiente para entrenar un sistema de inteligencia artificial poderoso, especialmente en comparación con los centros de datos de Microsoft en Arizona, que consumen mucha más agua para la misma demanda de cómputo.

«Así que si estás desarrollando modelos de inteligencia artificial dentro de Microsoft, deberías programar tu entrenamiento en Iowa en lugar de en Arizona», dijo Ren. «En términos de entrenamiento, no hay diferencia. En términos de consumo de agua o energía, hay una gran diferencia».

Durante gran parte del año, el clima de Iowa es lo suficientemente fresco como para que Microsoft use aire exterior para mantener la supercomputadora funcionando correctamente y ventilar el calor fuera del edificio. Solo cuando la temperatura supera los 29,3 grados Celsius (aproximadamente 85 grados Fahrenheit), la empresa ha dicho en una divulgación pública, retira agua.

Eso todavía puede ser mucha agua, especialmente en verano. En julio de 2022, el mes antes de que OpenAI dijera que había completado su entrenamiento de GPT-4, Microsoft bombeó aproximadamente 11,5 millones de galones de agua a su grupo de centros de datos en Iowa, según West Des Moines Water Works. Eso representó aproximadamente el 6% de todo el agua utilizada en el distrito, que también suministra agua potable a los residentes de la ciudad.

En 2022, un documento de West Des Moines Water Works dijo que tanto ellos como el gobierno de la ciudad «solo considerarán futuros proyectos de centros de datos» de Microsoft si esos proyectos pueden «demostrar e implementar tecnología para reducir significativamente el uso pico de agua desde los niveles actuales» para preservar el suministro de agua para las necesidades residenciales y otros fines comerciales.

Microsoft dijo el jueves que está trabajando directamente con Water Works para abordar sus comentarios. En un comunicado por escrito, Water Works dijo que la empresa ha sido un buen socio y ha estado trabajando con funcionarios locales para reducir su huella de agua mientras sigue satisfaciendo sus necesidades.


Vía: AP.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *