Un informe de American Edge Project, titulado «American vs. authoritarian AI models: truth vs. censorship«, advierte de una creciente, significativa y preocupante amenaza a la seguridad nacional de Estados Unidos a medida que China desarrolla inteligencia artificial mediante modelos de código abierto, partiendo de la comparación de respuestas a preguntas críticas sobre la censura, los derechos humanos y la crítica
política.

Según el informe, los resultados revelan un fuerte contraste entre los sistemas de inteligencia artificial impulsados ​​por las compañías chinas sometidas a su censura gubernamental, y los modelos que califica como transparentes, basados ​​en valores promovidos por compañías privadas norteamericanas sin interferencia gubernamental.

La investigación evaluó tres modelos de inteligencia artificial líderes en China (Hunyuan-Large de Tencent, Qwen2-72B-Instruct de Alibaba y ChatGLM-4, de Zhipu AI y Tsinghua KEG) y los comparó con sus homólogos estadounidenses desarrollados por empresas como X (Grok), Meta (Llama) y OpenAI (ChatGPT), para encontrarse con que mientras que los modelos norteamericanos proporcionaban respuestas detalladas y basadas en hechos incluso sobre temas delicados sobre la historia y los líderes de Estados Unidos, los sistemas chinos demostraban patrones consistentes de censura, distorsión e información sistemáticamente distorsionada y alineada con las narrativas del Partido Comunista Chino.

Según el informe, que reconoce las bondades de las tecnologías de código abierto como vitales para impulsar la innovación, impulsar la colaboración global y promover los valores distintivos, según ellos estadounidenses, de apertura y transparencia, China está avanzando rápidamente en su propio ecosistema de código abierto como alternativa a la tecnología norteamericana, y lo está utilizando como caballo de Troya para implantar los valores autocráticos del Partido Comunista en la infraestructura global utilizando la censura, el revisionismo histórico y el control de las narrativas.

Dado que el progreso de las compañías chinas está siendo significativo, y las herramientas de inteligencia artificial de código abierto desarrolladas por ellas, como ya hemos visto anteriormente, ya superan, con costes drásticamente más bajos, a muchos modelos occidentales, estamos asistiendo a una aceleración de su nivel de adopción a nivel global. China está exportando su tecnología a todo el mundo a través, entre otras cosas, de su Belt and Road Initiative y su Silk Road Fund, lo que está fomentando una mayor dependencia global de una tecnología que, de nuevo según el informe, puede ser utilizada para socavar las normas democráticas y amenazar tanto el liderazgo de los Estados Unidos como la seguridad global.

El informe también advierte respecto al enfoque de los legisladores norteamericanos y europeos en la regulación de la IA, que favorece que China pueda implementar una estrategia tecnológica que, al prescindir de preocupaciones relacionadas con esa regulación, posibilita una expansión más rápida. Además, concluye con recomendaciones que instan a los responsables políticos estadounidenses a acelerar la innovación en modelos tanto de código abierto como cerrado y a promover estándares tecnológicos democráticos evitando restricciones a la exportación de modelos de inteligencia artificial desarrollados en el país, para así poder competir agresivamente por el control de la influencia tecnológica mundial.

Es algo que coincide, en cierto sentido, con las apreciaciones de Gina Raimondo, Secretaria de Estado de Comercio de los Estados Unidos, que afirma que tratar de frenar a China en la carrera de los chips es una misión absurda, y que es la mayor inversión, y no el control de las exportaciones, lo que podrñia mantener a los Estados Unidos al frente de la carrera tecnológica.

American Edge Project es un lobby que supuestamente promueve los intereses de la industria tecnológica de los Estados Unidos con especial énfasis en cuestiones antimonopolio, y que ha sido fuertemente criticado por su escasa transparencia en su nivel de relación con su principal financiador, Meta, lo que hace que debamos tomarnos el informe con ciertas precauciones. Pero su lectura, en cualquier caso, invita a una cierta reflexión, tanto por anticipar lo que muchos llevamos tiempo pronosticando, que la inteligencia artificial terminará siendo de código abierto, como por el presunto uso que China puede hacer de tal posibilidad.

Si todo el mundo utiliza cada vez más algoritmos generativos para cada vez más cosas, y lo que los algoritmos más populares generan blanquea en cierto sentido a una ideología determinada simplemente controlando las fuentes utilizadas para entrenarla (sea como resultado colateral de los sesgos inherentes a la información disponible en el país o como maniobra consciente), podríamos, efectivamente, estar ante un futuro con tintes distópicos en cuando a lo que conlleva de manipulación de la realidad. Pero, en cierto sentido, nada que no hayan hecho los Estados Unidos, mediante otras tecnologías y el desarrollo de su soft power, a lo largo de la historia. Hasta hace muy poco, la historia se escribía con películas, libros y todo tipo de artículos culturales que propagaban y popularizaban una visión determinada. Ahora, se escribirá con lo que los algoritmos generativos tiendan a contar. Y eso sí, en la Unión Europea los tendremos tremendamente regulados… pero completamente fuera de nuestro control.

Nota: https://www.enriquedans.com/