El jefe de la SEC augura una nueva crisis financiera «casi inevitable» por el uso de la IA

La SEC (Securities and Exchange Commission) es la agencia gubernamental de los Estados Unidos que desempeña un papel fundamental en la regulación y supervisión de los mercados financieros del país. Pues bien, su Jefe y director, Gary Gensler, tiene algo que decir al mundo y lo pone en sobreaviso desde la Comisión de Bolsa y Valores de EE.UU.: la IA podría crear una nueva crisis financiera. Por lo tanto, la pregunta más obvia también es la más pertinente: ¿cómo va a poder hacer esto?

Pues con una caída del mercado, que puede ser intermitente, perpetuarse algún tiempo, o en cambio, ir mermando el mercado poco a poco. Realmente no está claro el modus operandi, pero Gensler advierte de que, de seguir por el camino en el que vamos, al final terminaremos en este escenario por el uso de los modelos de IA desarrollados sin control por empresas privadas.

Crisis financiera impulsada por una o varias IA, ¿cómo de real es la amenaza?

Crisis-financiera-IA

Pues a tenor de lo que dijo Gensler, a día de hoy es bastante real, y muy peligrosa de hecho. Las instituciones financieras, como los Bancos Centrales, las cajas de ahorro e incluso las Bolsas, ya usan distintas IA, pero todas tienen demasiadas cosas en común, y en opinión de Gensler, ese es uno de los problemas realmente.

La falta de diversidad implica modelos LLM demasiado enfocados en los mercados, y terminarán entrando en conflicto, tirando la bolsa y desatando un caos que nadie verá venir. Por lo tanto, la única solución que ofrece el jefe de la SEC es simple: se necesita regulación y una institución que supervise todo modelo generativo de IA en Wall Street.

La idea va muy de la mano de lo que pretende hacer EE.UU., pero eso también implica que las empresas tienen que mostrar sus modelos LLM al completo a la autoridad, tienen que probar cómo funciona y mostrar los resultados y las variables, lo cual, según Gensler, es un desafío de regulación sin precedentes.

Hay precedentes de colapso momentáneo y pánico, pero la IA lo agudizaría y en menor tiempo

Gary-Gensler-SEC

Gensler lo tiene realmente claro y así lo expresa:

"Es francamente un desafío difícil. Es una cuestión de estabilidad financiera difícil de abordar porque la mayor parte de nuestra regulación se refiere a instituciones individuales, bancos individuales, fondos del mercado monetario individuales, corredores individuales; está simplemente en la naturaleza de lo que hacemos.

Y se trata de un asunto por el cual todo es horizontal y muchas instituciones podrían estar confiando en el mismo modelo base subyacente o agregador de datos subyacente".

Por ello, la autorregulación que afirman tener las empresas creadoras de IA no va a bastar. El problema es que el impacto de cualquier IA es demasiado grande para valorar todos sus aspectos de forma veloz, se necesita tiempo, y como ya hemos visto esta semana, ni la UE puede ofrecer garantías sin más tiempo, e incluso, la Ley de IA podría cancelarse precisamente por no cumplir los plazos.

Pero en cuanto a la economía, el problema que ve la SEC es de base, porque un banco privado, una empresa privada, con una IA realmente potente y eficaz puede anteponer sus propios intereses a los de sus inversores, creando una paradoja económica en la bolsa que puede tornar en desastre, puesto que todo inversor vería perder su dinero en mayor o menor cantidad.

Este "conflicto de intereses" entre empresa e inversor es fácil de discernir para una IA, que solo tiene que cumplir un cometido y donde la ética no existe, la moralidad es inexistente. Por lo tanto, una IA, o una serie de ellas, pueden hundir el mercado financiero en minutos creando un colapso mundial, una crisis financiera por la IA. ¿Deben prohibirse la Inteligencia Artificial para estos sectores tan críticos?