Inteligencia artificial y corrupción: por qué tiene sentido que una inteligencia artificial controle el gasto público

Albania ha dado un paso que muchos considerían impensable: nombrar a una «ministra» virtual para encargarse de la contratación pública. Se llama Diella y, según el primer ministro Edi Rama, será inmune a presiones, favores o amenazas, y adjudicará todos los concursos públicos con la frialdad de los datos.

Albania no es un país cualquiera para este experimento: su democracia es joven, sufre un historial de clientelismo y corrupción, y tiene la vista puesta en una adhesión acelerada a la Unión Europea. Si algo puede mejorar la calidad de su democracia no son más discursos, sino mejores procesos. Y la inteligencia artificial, bien usada, puede ser una muy buena herramienta para la supervisión de procesos.

Conviene hablar del contexto político del país: Rama, un líder que lleva más de una década en el poder, aspira a un cuarto mandato y a cerrar el camino hacia Bruselas apoyándose en una agenda de digitalización ambiciosa y polémica a partes iguales. La novedad del anuncio no surge de la nada: Diella empezó este año como asistente en la plataforma e-Albania atendiendo a ciudadanos y empresas, y ahora se anuncia como responsable de adjudicaciones públicas con la promesa de «adjudicaciones 100% libres de corrupción». La duda obvia es el cómo: ¿qué controles humanos, qué auditoría pública, qué defensa ante la manipulación del propio sistema? El gobierno no ha detallado aún ese diseño institucional, lo que constituye un punto crítico que no se puede dejar en el aire.

¿Puede una inteligencia artificial ayudar de verdad contra la corrupción en contratación? Sí, si se hace lo sencillo primero: detectar anomalías. La contratación pública produce un caudal ingente de datos: pliegos, lotes, ofertas, bajas, unidades de coste, adjudicaciones, modificaciones, certificados, pagos. Con esos datos, cualquier sistema mínimamente serio puede marcar patrones sospechosos: concursos con un único ofertante en exceso, bajas temerarias repetidas de los mismos licitadores, rotación de adjudicaciones entre empresas vinculadas, modificaciones tardías que inflan precios, unidades de coste que se disparan respecto a su histórico, redes de proveedores y apoderados que confluyen siempre en los mismos contratos. La literatura académica y técnica abunda: desde enfoques no supervisados para SICOP (Costa Rica), a métodos en grafos que detectan subestructuras propias del fraude, o revisiones sistemáticas recientes sobre el uso de datos abiertos y aprendizaje automático en compras públicas. No hace falta ciencia-ficción: hace falta higiene de datos, reglas claras y trazabilidad.

No es solamente teoría, y de hecho, ya existen experiencias que han funcionado en entornos hostiles y de elevada complejidad. Ucrania abrió sus datos de contratación con ProZorro y articuló una comunidad cívica, Dozorro, que usa algoritmos para marcar contratos de riesgo y elevarlos a las autoridades. El resultado fue un ecosistema de vigilancia distribuida con datos abiertos, algoritmos y ciudadanía, que muchos países han mirado con envidia, incluso con el país en plena guerra. Transparencia Internacional Ucrania explicó hace años cómo su inteligencia artificial identificaba irregularidades, y Harvard Kennedy School ha documentado el modelo de gobernanza. Brasil vio surgir «Rosie«, un sistema ciudadano que analizaba reembolsos de diputados y los publicaba en abierto, con un impacto ejemplar en rendición de cuentas. ¿La constante? Datos públicos estandarizados, reglas auditable y participación social. Es decir, exactamente lo contrario de un «oráculo» opaco.

Este enfoque puede ser especialmente valioso en democracias jóvenes, porque ahí la corrupción no es un accidente: es un sistema de incentivos que se hereda, se perfecciona y se naturaliza. Frente a ello, la inteligencia artificial no es una varita mágica, pero sí puede ser un agente de fricción que encarece el engaño, reduce la discrecionalidad y hace visible lo que antes era opaco. Si cada expediente deja un rastro inmutable de decisiones, si las reglas de scoring son explicables y el modelo es versionado y auditado, el político o el funcionario ya no decide en penumbra: decide a la vista de todos. En ese marco, el escepticismo social que registran las crónicas sobre Diella («hasta la inteligencia artificial se corromperá») es sano y necesario, pero debe canalizarse para exigir diseño institucional, no hacia desechar la herramienta.

El peligro, lógicamente, no es la inteligencia artificial, sino su posible captura institucional. Una inteligencia artificial «ministra» puede ser tan corrupta como el fichero CSV que la alimenta, o tan arbitraria como el código que no podemos ver. Por eso, si Albania quiere que Diella sea algo más que un gesto, debería anunciar desde el primer día la publicación proactiva y en formato OCDS de todos los datos del ciclo de contratación, unas reglas de riesgo y métricas de anomalía documentadas y versionadas, logs públicos de cada decisión con firmas de tiempo, auditorías externas y bug bounties para el modelo, una ventanilla cívica para impugnaciones rápidas cuando el algoritmo se equivoque, e incompatibilidad absoluta entre cargos públicos y proveedores para cerrar el circuito de posibles connivencias. Si falla cualquiera de esos puntos, no habrá «ministra» que valga. Y esto no solo aplica a Albania: hay lecciones claras de quienes ya han recorrido ese camino, como Ucrania o Brasil.

La parte técnica no es el mayor reto. Cualquier universidad con un equipo de data science medianamente serio puede desplegar en semanas un pipeline de detección de outliers por unidades de coste y familias de productos (puede hacerse directamente «out-of-the-box» con aplicaciones como BigML), un detector de «bid rotation» en grafos de licitadores, o un clustering de expedientes por semejanza para encontrar modificaciones atípicas y conflictos de interés. Eso ya está descrito y probado en papers y repositorios públicos, y se puede construir con herramientas abiertas y sencillas. El reto es político y cultural: aceptar que, a partir de ahora, cada euro adjudicado queda expuesto y que habrá que explicar cada excepción. Y esa es precisamente la línea que separa a las democracias que maduran de las que se estancan.

¿Es posible que todo esto sea simple «teatro cívico»? Algunos tienen dudas sobre el encaje legal de la figura y sobre la transparencia de su operación, pero la alternativa a un algoritmo no es la neutralidad: es volver a una intermediación humana que históricamente ha sido el origen del problema. Prefiero un sistema que se equivoque de forma trazable y corregible a uno que no deja rastro. La oportunidad, tanto para Albania como para cualquiera que quiera copiar el modelo, no es tener una ministra con rostro digital: es convertir cada licitación en un dataset público y en un caso de estudio continuo. Eso sí mejora la democracia, porque es calidad institucional en estado puro.

Un país que nombra una inteligencia artificial para vigilar contratos no está «sustituyendo políticos por máquinas»: está reconociendo que donde hay reglas y datos, la disciplina algorítmica funciona mejor que la discrecionalidad. Si Diella se queda en avatar, será una anécdota. Si se convierte en procesos auditables, código abierto y datos abiertos, será una revolución silenciosa que otros países, incluyendo muchos que se autodenominan o consideran democracias maduras, tendrán que imitar. Y ojalá lo hagan lo antes posible.

Nota: https://www.enriquedans.com/