El consumo real de la IA de Google: esto gasta cada pregunta a Gemini

La IA generativa está transformando nuestras vidas, pero su impacto ambiental lleva ya tiempo preocupando a muchos, dado que su sed de energía y recursos parece insaciable. En el último año se han llevado a cabo muchas estimaciones, pero ha sido Google el primer gigante tecnológico en publicar un detallado análisis técnico que pone las cifras sobre la mesa. Y los datos de su contabilidad verde sorprenden.

MEDIR LO INVISIBLE. Como decía, por primera vez se cuantifica no solo la energía eléctrica, sino también las emisiones de carbono y el agua utilizada en el proceso de cómputo y refrigeración de los centros de datos. ¿Cuánto supone hacerle una pregunta a una IA como Gemini? Pues aquí está la respuesta:

• 0,24Wh de electricidad por prompt, el equivalente a ver nueve segundos de TV
• 0,03 gramos de CO2, menos que una respiración humana
• 0,26 ml de agua, apenas cinco gotas de agua

Para calcular estos datos y poder medir lo invisible, la tecnológica ha presentado una metodología pionera con un claro enfoque de transparencia (desde el chip hasta el centro de datos). Esto es clave ya que existe una falta de regulaciones que obligue a estas empresas a publicar sus números.

Son números muy por debajo de los análisis de terceros que estimaban que una consulta podría consumir hasta 3Wh. La comparación con ChatGPT no es muy grande: los modelos de OpenAI consumirían en torno a 0,34Wh, según el propio Sam Altman.

SOLO UNA PARTE. Eso sí, estos datos vienen con un importante "pero". Y es que estas cifras no recogen el costoso proceso de entrenamiento de cada modelo de languaje, sino únicamente el consumo de la IA al inferir la respuesta al usuario.

Los centros de datos suponen todo un reto energético en la era del crecimiento exponencial de la IA generativa.

Aunque los valores individuales son bajos, multiplicados por los millones de consultas diarias, el impacto agregado sí es considerable. Los centros de datos más avanzados del mundo pueden consumir lo mismo que 800.000 hogares, según la Oficina de Responsabilidad del Gobierno de EEUU. Y es que el verdadero reto está en la escala global de la IA.

CÓMO GOOGLE REDUCE LA HUELLA. El proceso de mejora en la eficiencia ha sido radical en el caso de Google, según constata su reporte. En el último año, ha reducido 33 veces su consumo de energía y hasta 44 veces el de carbono, mejorando al mismo tiempo su calidad.

Y es que nuevas técnicas de software como la decodificación especulativa, arquitecturas como la Transformer (de 10 a 100 veces más eficiente) y técnicas como el razonamiento híbrido y Mixture-of-Experts han dado la vuelta al panorama. El desarrollo de TPU (Unidades de procesamiento tensorial) cada vez más eficientes han optimizado hasta 30 veces su gasto, y centros de datos verdes con políticas de reposición del 120% del agua y transición a energías limpias suponen un gran avance.

REGULACIÓN Y RESPONSABILIDAD. El debate está abierto: no hay actualmente una regulación que obligue a publicar cifras del impacto ambiental de la IA, pero este acto de transparencia de Google puede marcar un precedente. Es una interesante paradoja, ya que la IA puede ser parte de la solución climática si se gestiona con responsabilidad. Una pregunta para ti: ¿deberíamos exigir que todas las big tech hagan lo mismo?