En una reciente nota publicada en el Boletín de Estudios Económicos de Brookings, titulada “Nuestras crisis gemelas de desesperación y desinformación”, se abordan temas de gran interés y relevancia frente a la realidad nacional, pero también a la crisis global que enfrenta la humanidad.

Con respecto a la desinformación se destaca un hecho significativo: la cantidad de sitios web dedicados a la propagación de noticias falsas (fake news) representa hoy, sólo en los Estados Unidos, un número estimado en 1.265, un 4% más que el número de periódicos que circulan en ese país. Pero, además, dichos sitios son frecuentemente financiados por “dinero oscuro” [1]. Según sostiene una empresa que ha desarrollado una herramienta que evalúa y califica la confiabilidad de sitios web de noticias e información (News Guard), se estima que al menos el 50% de las noticias que circulan en la web son falsas. Por cierto, la creciente tendencia a citar frases publicadas en la red social X (antes Twitter) y a tomar afirmaciones de dichos sitios multiplica la desinformación y la polarización política.

¿Qué se puede esperar en la Argentina? El sólo hecho de que a través del Decreto 656/2024 del 19 de julio último se hayan asignado con carácter reservado 100.000 millones de pesos a la Secretaría de Inteligencia del Estado de la Presidencia de la Nación para el fortalecimiento del Sistema de Inteligencia Nacional, hace temblar de miedo. En particular debido a que despierta temores respecto a su potencial destino para todo tipo de operaciones políticas, entre ellas las de desinformar, además de poder vigilar “la libertad de los argentinos”. Respecto a la desinformación, estamos asistiendo a un circo mediático en torno al caso Loan, que no requiere de sitios repletos de fake news para engañar a nadie, aunque de modo subliminal transmite cuán fácil resulta desaparecer personas y enredar casos. ¿La figura de un militar denunciando haber visto a Loan en una tienda en Comodoro Rivadavia cuando se transmite una imagen tomada por una cámara de seguridad que muestra a un niño con una altura bastante mayor a la de un niño de cinco años por todos los canales desde TN a C5N? ¿Un ex marino preso con vínculos con espías de la Armada, tal como publicó el diario Clarín? Todo sin duda muy raro. Algo que en nuestro país presenta una gravedad mayúscula en la medida que hay quienes desean reivindicar como patriotas a quienes torturaron, asesinaron, raptaron bebés, desaparecieron a decenas de miles de ciudadanos ejerciendo terrorismo de Estado y así dar marcha atrás con lo actuado en estas décadas de democracia. Insertando en capas de la sociedad –en particular las más jóvenes– dudas acerca de nuestra historia. Recordar lo sucedido no es revanchismo, ni tomar partido por las guerrillas. Es simplemente ejercer la memoria como lo hacen los pueblos sanos. Es también evitar naturalizar la barbarie. Recordar que las políticas económicas implementadas en ese oscuro período no fueron “de patriotas”, sino en favor de grupos extranjeros.

Pero volviendo al tema central del citado artículo, la desinformación es una amenaza a corto, mediano y largo plazo para la sociedad civil, para la democracia, para el progreso del conocimiento humano, para su transmisión intergeneracional a través del sistema educativo y para la juventud, en especial si es vulnerable.

Tal como señala una reciente publicación del FMI [2] respecto al grave impacto de la depresión económica sobre la perspectiva de empleo e ingresos de la población y por ende del estado de nuestra mente, y otra referida al cambio producido en el mundo respecto al deterioro de la salud mental de los jóvenes [3] (ver gráfico), la situación es preocupante pues crisis económica y desinformación son un cóctel perfecto para la autodestrucción humana. Lo es no sólo porque en tiempos recientes ha aumentado el porcentaje de personas desesperadas de manera dramática para las de entre 18 y 40 años, sino que se eleva dicho guarismo también para las mayores a los 65 años.

 Porcentaje de la población que sufre de desesperanza según edades de entre 18 y 70 años en los Estados Unidos: comparación de datos de 2009 a 2018 y de 2019 a 2022.

De un modo notable, este último análisis realizado por expertos revela que desde 2011 en adelante el creciente uso de los teléfonos inteligentes y el acceso a internet aparecen como causa de este crecimiento de la desesperanza, que también se asocia al desempleo y a la falta de ingresos. El estudio muestra una tendencia similar en el Reino Unido y advierte que se repite en casi todos los países que se analizaron. La tendencia a atribuir esta pauta a la pandemia del Covid-19 es así relativizada en este informe, destacando el creciente papel que han desempeñado factores previos que hablan de una crisis polifacética, tal vez civilizatoria.

Así, mientras que en los países a los que se emula como modelo a alcanzar estas preocupaciones forman parte de investigaciones científicas a partir de las instituciones estatales y privadas, en la Argentina libertaria se tiende a desvalorizar este tipo de cuestiones y hasta a alentar al prójimo “a no acercar un plato de comida caliente a la gente en situación de calle dado que esto sería una actitud ‘pobrista’”.

Ahora bien, el uso creciente de la Inteligencia Artificial (IA) y la incansable promoción para radicar esta nueva actividad en el país frente a las crecientes regulaciones en los Estados Unidos y en Europa conlleva otros graves riesgos que se vinculan también con lo anterior. Como señala el Reporte sobre el estado de la Inteligencia Artificial del año 2024 que elabora la Universidad de Stanford, los principales peligros vigentes se refieren a: 1. Daños ocasionados por la desinformación; 2. Por la discriminación y toxicidad de los mensajes, la búsqueda de exclusión, el fomento del odio y uso de lenguaje ofensivo; 3. A su uso malicioso, y 4. A los vinculados con la calidad de la información que se procesa.

Al mismo tiempo se afirma que “el nuevo estado del arte de los sistemas de IA tales como GPT-4, Gemini y Claude 3 son impresionantes en su aspecto de uso multimodal: ellos pueden generar textos fluidos en docenas de lenguas, procesar audios y aun explicar memes. En la medida que IA ha mejorado, se ha introducido forjando sus modalidades y formas en el camino de nuestras vidas. Las empresas se hallan en una carrera por construir productos basados en IA e IA está siendo utilizada por el público en general. Pero la tecnología corriente en IA tiene aún significativos problemas. No puede tratar de manera confiable con los hechos, desarrollar razonamientos complejos o explicar sus conclusiones” [4]. Las preocupaciones en torno a la IA abarcan una tan amplia gama de temas que es casi imposible enumerarlas. Uno central se refiere al hecho de que la autonomía de los algoritmos autogenerados por IA podría amenazar la capacidad humana de comprender la lógica en la producción de resultados, recomendaciones y –en caso de funciones delegadas– tomar decisiones que tengan impactos negativos sobre la humanidad. Por consiguiente, la cuestión de si IA seguirá siendo solo una herramienta más al servicio de los seres humanos –y controlada por ellos– o, por el contrario, una que cobrará una autonomía tal que se transforme en “súper humana” y ponga en riesgo a la propia especie, se ha convertido tal vez en la más debatida y en la que mayor temor produce [5]. Ello deviene del hecho de que la IA funciona como “una caja negra”, lo que refiere a un sistema o modelo cuyo funcionamiento interno no es transparente ni interpretable como lo sería un automóvil, un reloj u otro artefacto. Al parecer, los ingenieros y programadores que diseñan los algoritmos que entrenan estos modelos no siempre comprenden completamente las redes neuronales resultantes. A este problema se suma el hecho de que los propietarios de estos sistemas se hallan en una competencia entre sí y la filtración de información o denuncia de peligros es al parecer severamente penalizada [6]. Así, aunque es sabido que empresas como OpenAI están investigando formas de comprender mejor el funcionamiento interno de los modelos de lenguaje, como GPT-4, es muy poco probable que estén dispuestas a compartir esos conocimientos o que las propias técnicas, como la de los autocodificadores variacionales (VAE), sean totalmente eficaces para decodificar el conjunto de algoritmos que dan lugar a un cierto resultado [7].

No deseo abordar aquí otra grave cuestión cual es que se espera que IA barra con una cantidad de actividades sin que se vislumbre cómo será realmente el mundo del trabajo de un modo claro y preciso, ni tampoco su impacto sobre la deconstrucción no ya del Estado sino del mismo concepto de sociedad, vida social, valores compartidos a partir de una visión del bien común.

Así las cosas, nuestras psiques y existencias se hallan bajo amenaza. Tanto más por cuanto los expertos en IA son los menos y la mayor parte de la población se halla bajo una suerte de hipnosis y distorsión emocional. Pero también por la ausencia de un modelo de crecimiento económico sustentable, inclusivo, armonioso bajo instituciones confiables. Una visión tal que día a día es sutilmente atacada a través de mostrarle a la sociedad a través de la prédica “lo podrida que está la política”, las instituciones, la cultura y los valores humanos, los sistemas de poder, como si necesariamente el poder solo existiese para hacer el mal.

La ansiedad y la desesperanza son reductibles sin el uso de ningún artificio, tanto como la desigualdad, la pobreza, el hambre, la ignorancia y la miseria. Dependen de valores y del corazón humano de quienes nos dirigen. Frente a esta ola de locura, no es necesario rechazar ningún progreso tecnológico, siquiera el uso de la IA. Tal vez, por reduccionista que parezca, basta con que la temperatura del corazón humano se eleve más rápido que el calentamiento global, mientras que con nuestros hábitos y prácticas pongamos en acción a la fuerza más poderosa de la Tierra y del Universo: el amor. Con ello me refiero a cuidar al prójimo y a la naturaleza mientras estemos a tiempo.

Por Roberto Kozulj * El autor es economista, ex vicerrector de la Sede Andina de la Universidad Nacional de Río Negro entre 2013 y 2019 y profesor titular adscripto a la Fundación Bariloche.
 

[1] El “dinero oscuro” se refiere a fondos utilizados para influir en procesos políticos (como campañas electorales) cuya fuente no es revelada públicamente. Este tipo de financiamiento puede provenir de organizaciones sin fines de lucro, corporaciones o individuos que desean mantener su identidad en secreto, pero también de organizaciones criminales. La falta de transparencia en el origen de estos fondos puede generar preocupaciones sobre la influencia indebida y la falta de rendición de cuentas en el sistema político.
[2] “Un mundo con bajo crecimiento es un mundo desigual e inestable. Los períodos largos de crecimiento económico lento pueden causar un aumento en la desigualdad. Pero un conjunto equilibrado de políticas puede evitar ese resultado”, escribió Kristalina Georgieva.
[3] “El deterioro de la salud mental de los jóvenes y la desaparición global de la forma de joroba en la curva que mide la infelicidad según la edad”, Oficina Nacional de Investigación Económica de los Estados Unidos, documento de trabajo 32337 (32337 NBER Working Papers from National Bureau of Economic Research Inc.).
[4] Artificial Intelligence Index Report 2024, Universidad de Stanford.
[5] Ponce del Castillo A. (ed.) (2024) Artificial intelligence, labour and society, ETUI.Brussels, 2024.
[6] Roose, K. Las alarmantes denuncias de los empleados de OpenAI sobre la imprudente carrera por el dominio absoluto.
[7] Los autocodificadores variacionales (VAE) son también modelos generativos que aprenden representaciones comprimidas de sus datos de entrenamiento como distribuciones de probabilidad. Se utilizan para generar nuevos datos de muestra creando variaciones de esas representaciones aprendidas.