ChatGPT está de moda, pero, ¿conoces los secretos de cómo funciona?

Es sin duda la innovación informática que más ha dado a hablar en los últimos años y la que más ríos de tinta ha hecho correr en forma de detractores y defensores. Los diferentes países lo temen y están empezando a legislar en su contra. Estamos hablando de ChatGPT y es esta IA generativa de lenguaje natural a la que le vamos a dedicar este artículo donde os explicaremos que es de forma sencilla.

Existe un miedo atávico a la inteligencia artificial, representado en el imaginario popular como una especie de dios inhumano creado por la propia humanidad para su propia destrucción. De ahí a que nombrarla suponga para muchos un terror. Sin embargo, otros tienen otro tipo de miedos, el del maquinismo y la destrucción de oficios. En todo caso aquí no entraremos en estos temas, solo os explicaremos que es realmente y los recursos que necesita para funcionar.

¿Qué es ChatGPT y cómo funciona realmente?

Hemos de partir del hecho de que las aplicaciones de inteligencia artificial tienen la capacidad de aprender a partir de una serie de datos y sacar una conclusión a partir de unos datos de entrada. En el caso de ChatGPT se trata de un servicio cuya principal función es aprender el lenguaje natural de las personas y expresarlo en forma escrita. Sin embargo, no hablamos de aprender las normas gramaticales y de expresión formal de las diferentes lenguas, sino que más bien es como un niño que ha ido aprendiendo a hablar y a medida que va leyendo libros y viendo cosas, o sea, cogiendo datos, aprende a hablar cada vez mejor.

Sin embargo, ChatGPT no es consciente de sí mismo como puede aparentar. Dado que no es más que un programa que tiene la capacidad de buscar respuestas a preguntas concretas por internet y mostrarla a su "interlocutor".  El problema es que no siempre nos dará las mismas respuestas a las diferentes preguntas. Además, tiene la tendencia a irse por los cerros de Úbeda y tener algo de fantasía. Por lo que es importante contrastar siempre lo que nos dice la IA.

No obstante, esto no significa que ChatGPT sea perjudicial como se intenta decir o que cree desinformación. Si no que se ha de tener en cuenta que es una forma mucho más eficiente y rápida de obtenerla que ir navegando usando el buscador de Google, por lo que para el usuario con menos conocimiento es mucho más cómodo, pero al mismo tiempo existe el peligro de que aparezca información que no es fiable.

¿Qué recursos necesita ChatGPT para funcionar?

ChatGPT, pese a su aparente sencillez, necesita una gran cantidad de recursos, y estos van creciendo a medida que la información que se usa para entrenar al algoritmo. No olvidemos que cuantos más datos se le da a un algoritmo de este tipo, más preciso es el resultado. Sin embargo, el problema viene cuando más datos significan también mayores necesidades computacionales. Es por ello que para que os hagáis una idea de cómo va aumentando exponencialmente hemos decidido mostraros cómo ha evolucionado con el paso del tiempo en cuanto a capacidades y recursos.

• ChatGPT 2 (primera versión):
  • 117 millones de parámetros distintos.
  • Utiliza una sola tarjeta gráfica NVIDIA Tesla T4 con 16 GB memoria de vídeo y una potencia de 8 TFLOPS.
  • Requiere una CPU de 64 núcleos y 16 GB de RAM.
• ChatGPT 2 (segunda versión)
  • 345 millones de parámetros.
  • Utiliza dos tarjetas gráficas con 16 GB de memoria cada una con un chip Volta V100 de NVIDIA. Su potencia total es de 60.4 TFLOPS y disponen de 32 GB cada uno.
  • La cantidad de núcleos aumento a 128, por lo que se hizo necesario usar una configuración multiprocesador.
  • En cuanto a la memoria RAM paso a los 32 GB.
• ChatGPT 3:
  • 175 mil millones de parámetros.
  • Hace uso de 16 tarjetas gráficas NVIDIA A100 con una potencia de 19.5 TFLOPS cada una. Esto son 312 TFLOPS y un salto en potencia de cinco veces respecto al modelo anterior. En cuanto a la cantidad de memoria de vídeo, dispone de 320 GB en total.
  • El número de núcleos en el procesador se vuelve a doblar, esta vez son 256 y es necesario 1 TB de RAM en total.

En cuanto a ChatGPT 4, este funciona bajo 100 billones de parámetros, pero desconocemos por completo qué hardware utiliza para funcionar. Obviamente, será muy superior a los anteriores. Por lo que si lo que buscas es poderlo ejecutar en tu PC de casa con la misma calidad o precisión, deja que te digamos que estamos muy lejos todavía de tener un sistema siquiera para ejecutar la tercera versión.

Su evolución es la especialización

Con cada nuevo modelo el hecho de que los parámetros crezcan supone el problema de necesitar un hardware cada vez más caro. Así pues, la solución pasa en crear modelos de conocimiento reducido para su aplicación comercial. Por ejemplo, es posible que en un futuro veamos un ChatGPT de medicina orientado para que los médicos lo usen de manera profesional.

También podemos hablar del ejemplo de un fabricante de coches que puede usar toda su información interna para poder dar respuesta a sus propios trabajadores. Y hablando de información, una de las utilidades que se le está encontrando es de cara al servicio de atención al cliente de muchas empresas y para informar de productos disponibles.

¿Qué puede hacer realmente y por qué lo estás utilizando mal?

Hemos de partir del hecho de que ChatGPT, pese a que tiene cierta capacidad para leer premisas y sacar conclusiones, muchas veces no sabe si son verdaderas o falsas y cae en errores por culpa de la falacia de autoridad. No en vano, es la gente que trabaja en OpenAI la que tiene que verificar y comprobar que los datos de entrada sean verdaderos y estamos hablando de muchos terrenos del saber humano.

El problema es pensar que ChatGPT es un modelo para obtener información, más bien es un modelo de lenguaje que tiene la capacidad de generar aparentemente naturales, pero su objetivo no es informar. No se trata de un medio de información para nada y de ahí a que pueda llegar a dar información contradictoria y errónea. Por lo que la única salvación contra ello es que los datos con los que opera sean ciertos y a medida que aumenta el número de parámetros esto se va haciendo más complicado.

Sin embargo, pese a dichas limitaciones, es una herramienta excelente para:

• Leer un texto y reescribirlo añadiendo más frases, resumirlo o incluso cambiar el tono a uno más formal o informal.
• Generar listas ordenadas a partir de un texto muy largo. Con ello se pueden sacar rápidamente las especificaciones de un producto o una receta de cocina.
• Proponle un tema sobre el que redactar se inventará una conversación o una canción de la nada.
• Tiene la capacidad de traducir texto y no de forma directa, sino adaptando el resultado a las formas normativas de cada lenguaje.

¿Realmente sabe programar?

Pues sí, ChatGPT sabe programar en cierta manera, ya que le han enseñado también diferentes lenguajes de programación y si bien hay veces en los que no da un resultado del todo correcto, es lo suficientemente bueno, no para reemplazar a los programadores, puesto que muchas veces genera código que no es del todo eficiente. Sin embargo, va muy bien cuando necesitas solucionar un problema concreto, pero supone un problema de cara a las buenas prácticas y el aprendizaje.

Por ejemplo, si le preguntamos el clásico ejercicio de escribir un código para buscar un número primo en C lo que nos colocará delante de nuestras narices es el clásico ejemplo en los libros. Ocurrirá justo lo mismo sí le pedimos el código para eliminar un nodo de un árbol binario. Todo ello son ejemplos que podemos encontrar en los libros de texto. Sin embargo, si le pedimos que nos haga el programa, nos encontraremos con errores, dado que construye sus aplicaciones a partir de los ejemplos que conoce.