NVIDIA: «Las GPU de IA serían un millón de veces más caras si no existiéramos, son prácticamente gratis»
Pues sí, Huang tiene una visión realmente interesante sobre todo lo que rodea a la IA y al hardware que permite que exista en tiempo real. Durante una entrevista en la Universidad de Ciencia y Tecnología de Hong Kong, Jensen Huang, CEO de NVIDIA, comentó recientemente que el problema de las "alucinaciones" en Inteligencia Artificial (IA), donde esta genera información inventada para cubrir lagunas, no será resuelto por la industria en varios años, y además, abordó temas como el crecimiento en la demanda, y el hecho de que sin ellos, sin NVIDIA, las GPU serían un millón de veces más caras.
En dicha Universidad, el presentador de la gala y entrevista señaló que la potencia informática requerida para la IA se cuadruplica anualmente. “En 10 años, es una cifra enorme, de hecho un millón”, dijo, y añadió: “Por eso las acciones de NVIDIA subieron 300 veces. Las necesidades computacionales son un millón de veces mayores, lo que explica que las acciones probablemente no sean tan caras realmente".
¿Puede seguir creciendo la demanda al ritmo actual? Huang no se moja, no responde
Dado que todo lo que fabrica NVIDIA se vende incluso antes de ponerse manos a la obra, la pregunta era casi obligada después de las respuesta que dio. El presentador preguntó a Huang si en los próximos 10 años esa demanda podría crecer otro millón de veces. Aunque Huang evitó responder directamente, explicó las áreas clave en las que se está desarrollando la IA. Y esto es interesante, porque nos deja entrever brevemente hacia dónde está girando el sector de cara a finales de la década.
La primera fase es el pre-entrenamiento, que comparó con la experiencia universitaria:
“La IA toma todos los datos del mundo y descubre conocimiento a través de ellos. Sin embargo, este paso es un hito muy importante, pero no es suficiente”.
La segunda etapa es el post-entrenamiento, en la que se perfeccionan habilidades específicas mediante técnicas como:
"Aprendizaje de refuerzo [a través de] retroalimentación humana, aprendizaje de refuerzo [a través de] retroalimentación de IA, generación de datos sintéticos, aprendizaje de trayectoria múltiple y aprendizaje de refuerzo”.
Finalmente, la tercera área es el escalamiento del tiempo de prueba, que Huang describió como “pensamiento”. Aquí, la IA descompone los problemas paso a paso para hallar soluciones, simulando resultados si las respuestas no son predecibles:
“A eso lo llamamos pensamiento, y cuanto más pienses, tal vez de mayor calidad será la respuesta".
La IA sigue sin ser fiable, hace lo que puede con el hardware, pero sin NVIDIA las GPU de IA serían 1 millón de veces más caras
No obstante, Huang reconoció que todavía no se puede confiar plenamente en las respuestas de la IA:
“Hoy, las respuestas que tenemos son las mejores que podemos obtener, pero debemos llegar al punto en el que sean en gran medida confiables. Creo que estamos a varios años de poder hacer eso, y mientras tanto, tenemos que seguir aumentando nuestra capacidad de computación”.
Huang también resaltó los avances que NVIDIA ha logrado:
“Hemos tomado el costo marginal de la computación y lo hemos reducido un millón de veces”.
También explicó que cuando algo se abarata tanto, los hábitos cambian:
“Esa es la mayor contribución que NVIDIA ha hecho nunca, que hayamos logrado que el usar una máquina para aprender exhaustivamente una enorme cantidad de datos sea algo que los investigadores ni siquiera pensarían dos veces en hacer. Es por eso que el aprendizaje automático ha despegado”.
Pero cuando le mencionaron el alto precio de las GPU de NVIDIA, respondió de forma bastante polémica:
“Serían un millón de veces más caras si NVIDIA no existiera. Les di un descuento de un millón de veces en los últimos 10 años. ¡Es prácticamente gratis!”