ChatGPT hace perder a OpenAI 540 millones: gastos de 1 millón al día

OpenAI no pasa por un buen momento y eso que le acaba de llegar la fama por su IA ChatGPT. Los costes son realmente brutales, hasta el punto de que Microsoft va a tener que intervenir para intentar bajarlos para hacer a la empresa rentable. La capacidad que necesita ChatGPT para funcionar es de tal calibre a nivel informático que la cifra que se da de costes diarios asusta: pérdidas de entre 700.000 dólares y 1 millón en gastos diarios.

La infraestructura informática no es gratis, no se subvenciona con el pago de los usuarios por ChatGPT y por supuesto, no es asumible para OpenAI, que como empresa emergente no puede sustentarse sola tras las inversiones que han hecho y el poco beneficio que obtienen. El problema es que estos costes van en ascenso, ¿por qué?

OpenAI en problemas económicos, ChatGPT les está costando un buen dinero

El mayor problema es que todas las cifras que hemos dado hasta ahora en este artículo están calculadas con el modelo GPT-3 y no con GPT-4. El analista jefe de SemiAnalysis, Dylan Patel dijo que "la mayor parte de este costo se basa en los costosos servidores que requieren".

Estos costes no son tanto por la capacitación de los modelos como tal, que cuesta decenas de millones de dólares, sino por los gastos operativos y los costos de la inferencia. Patel comentó que cuando estos se implementan a modelos de escala razonable la operatividad y la inferencia superan con creces a la capacitación en dinero gastado.

Un ejemplo claro de los costes llega desde una empresa de juegos como Latitude, que con su último título implementa IA real para que las indicaciones de los jugadores creen una historia real para cada uno de manera independiente. Pues bien, este modelo, junto con los pagos que tienen con AWS, le cuesta a la empresa 200.000 dólares al mes solo en términos de la IA, de manera que esta pueda responder a los millones de consultas de los usuarios. Y estos datos son de 2021... Imaginemos hoy en 2023.

Nick Walton, CEO de Latitude ha querido ponerle un poco de humor a estos datos:

"Bromeamos diciendo que teníamos empleados humanos y empleados de Inteligencia Artificial, y gastamos lo mismo en cada uno de ellos", dijo Walton. "Gastamos cientos de miles de dólares al mes en IA y no somos una gran empresa nueva, por lo que fue un costo muy alto."

ChatGPT 4 dispara los costes aún más, pérdidas no reveladas por parte de OpenAI

Si los datos de GPT-3 son bestiales, los de GPT-4 son peores debido a la complejidad para calcular todo lo necesario de manera que pueda ofrecerse una respuesta, es decir, es mucho más caro. Por ello, Microsoft llegó al rescate con 10.000 millones para ayudar a OpenAI y de paso, subirse al carro de la IA generativa.

Con este dinero OpenAI está trabajando en un servicio mejorado de ChatGPT Plus y en paquetes comerciales para empresas planificados, que harán que este 2023 cierre con ingresos de 200 millones de dólares al año, que no la harán rentable en primer término, pero Microsoft espera que cierren 2024 con más de mil millones en ingresos.

Otra opción que está encima de la mesa es pasarse al código abierto para competir con las alternativas si los datos no acompañan. El modelo Alpaca de la Universidad de Stanford está dando buen resultado, RedPajama también está ofreciendo un rendimiento aceptable. Si se sigue apostando por código cerrado OpenAI tiene que tener claro que la calidad del conjunto de los datos de entrenamiento y la optimización del hardware así como el software serán claves.

Google vs OpenAI y Microsoft, dos modelos, dos negocios

Por ello, y en gran parte, el rumor de que Microsoft está desarrollando sus propios chips para IA (Project Athena), para abaratar y potenciar esa parte dentro del hardware. Google piensa que este modelo de negocio es menos rentable que el código abierto, principalmente porque los modelos tan grandes no son lo suficientemente flexibles en el desarrollo, elevando costes y retrasando el avance.

La lucha se centrará ahora entre Google vs OpenAI y Microsoft, dos modelos que parecen enfrentarse, que son increíblemente caros y que en unos años tendrán que enfrentar números y rendimientos para comprobar cuál triunfa y cuál no. Por ahora, OpenAI con ChatGPT solo puede ofrecer pérdidas.