China no se fía de la IA: habrá revisiones de seguridad y podría prohibirse

China tampoco se fía de la IA generativa, ni la extranjera ni la propia gracias a sus empresas y ya comienza a moverse. Los primeros preludios de la tormenta que se va a desencadenar en torno a esto ya están aquí, y los asiáticos no se están andando con tonterías varias. De hecho, China está planeando exigir una revisión de seguridad de los servicios de Inteligencia Artificial (IA) Generativa, los cuales todavía no han empezado a funcionar en sus fronteras. Esta es una muestra de que Xi Jinping teme que se dé alguno de los casos como los de Samsung e Italia, donde se filtraron datos por un lado, y se usó información confidencial por otro.

Es un tema escabroso, porque además la IA no solamente ofrece respuestas erróneas en muchos casos, sino que no tiene filtro alguno por el momento y todos los datos están a su disposición sin importar quién o qué los haya producido. Por lo tanto, el país de la ruta de la seda tiene que lidiar con las amenazas externas y sus propias empresas.

China exige una revisión de seguridad a cualquier IA Generativa

China IA

En un comunicado que publicó el gobierno de Xi Jinping se ofrecieron los primeros bocetos de la regulación que quiere implementar el país y que va a resultar realmente complejo de mitigar, puesto que o bien "pasa la mano" a todas las empresas que quieran entrar en su país, o coartará la libertad de desarrollo, incluidas las suyas. El extracto reza así:

"Los proveedores de servicios deben garantizar que el contenido sea preciso y respete la propiedad intelectual, y que no discrimine ni ponga en peligro la seguridad".

Como seguro estás pensando, esto es muy ambiguo, porque deja al aire la posible interpretación como amenaza a cualquier empresa sin esgrimir argumentos que acoten una supuesta ley de regulación. Además, China teme que los contenidos ofrecidos por IA no se puedan diferenciar de los que ofrece un humano, por lo que ya ha dicho en el mismo comunicado que los operadores de Inteligencia Artificial deben etiquetar claramente qué contenidos son generados por estas IA.

Miedo a no poder controlar los datos, ¿prohibición a IA extranjera?

Google-TPU-vs-NVIDIA-A100

Por un lado, China no quiere perder el tren de la IA y empresas como Baidu, Alibaba o SenseTime están diseñando sus propios sistemas para entrar en el juego. Pero es que realmente van tarde. OpenAI, Google y Microsoft están trabajando desde hace años en ello y tienen ya opciones en el mercado, por lo que se estipula que, como no tienen un control como espera el gobierno chino, este las prohíba tal y como hizo con los buscadores o las redes sociales occidentales para dar paso a sus propias empresas.

Para terminar, China juega en el alambre regulatorio, donde tiene que ser intransigente para no ver casos como los descritos, pero al mismo tiempo tiene que dejar margen para el desarrollo de la industria. Ángela Zhang, profesora de la Universidad de Hong Kong, comenta lo siguiente:

“Las rápidas reacciones del CAC a esta nueva tecnología demuestran claramente su ambición regulatoria en esta esfera. Es probable que estos desarrollos tengan efectos indirectos en la regulación china de la IA en el futuro. Sin embargo, hasta ahora, veo que los reguladores chinos están siendo bastante cautelosos con su enfoque regulatorio para dar más espacio para el desarrollo de la IA generativa en el país”.

Por lo tanto, el mercado chino va a quedar bloqueado para occidente, donde Xi Jinping quiere tener el control de los datos y el contenido, argumentando que la protección de la información personal es clave, pero al mismo tiempo, entra la doble vara de medir con detalles como la posible censura de mensajes que su partido considere no apropiados, algo que pasa ya actualmente mediante unos reguladores específicos en chats y redes sociales.