Albania presentó a Diella como una solución tecnológica para limpiar las contrataciones públicas. Ahora, la agencia responsable de desarrollarla está bajo investigación por presunta corrupción. Yo creo que, más que una curiosidad europea, el caso debería encender algunas alarmas en América Latina.
Hay noticias que parecen escritas por un guionista especializado en ironías políticas. Y esta, para mí, es una de ellas. Albania, un pequeño país balcánico que aspira a ingresar en la Unión Europea, sorprendió al mundo cuando presentó a Diella, una ministra creada con inteligencia artificial cuya misión sería ayudar a combatir la corrupción en las contrataciones públicas.
La idea, debo admitirlo, sonaba irresistible. Si los políticos y funcionarios pueden ser tentados por sobornos, favoritismos, empresarios amigos o intereses electorales, ¿por qué no entregar parte del proceso a una inteligencia artificial?
Una computadora no tiene primos. No necesita financiar una campaña electoral. No tiene amigos empresarios. No recibe sobres debajo de la mesa. O, por lo menos, esa era la teoría. Ahora, la Agencia Nacional de la Sociedad de la Información de Albania (AKSHI), responsable del desarrollo y la gestión de Diella, quedó involucrada en una investigación sobre una presunta trama de corrupción relacionada precisamente con licitaciones públicas. La Fiscalía Especial contra la Corrupción y el Crimen Organizado investiga si funcionarios manipularon procesos de contratación para favorecer a determinadas empresas.
Y aquí encuentro una paradoja extraordinaria: la institución que debía construir una inteligencia artificial para combatir la corrupción terminó bajo investigación por presunta corrupción.
Conviene hacer una aclaración fundamental. Hasta ahora no existen indicios publicados de que Diella haya participado en esas supuestas irregularidades. Pero creo que ese no es el punto. Para mí, el verdadero problema está en otro lugar: este episodio pone en duda una de las fantasías más seductoras que acompañan a la inteligencia artificial, la idea de que la tecnología, por sí sola, puede solucionar problemas políticos que en realidad son problemas institucionales y profundamente humanos.
Una ministra que no puede ir presa
Diella comenzó como un asistente virtual del portal gubernamental e-Albania. Posteriormente, el primer ministro Edi Rama decidió convertirla en algo mucho más ambicioso: una “ministra de Estado para la inteligencia artificial”. La presentación fue espectacular. El avatar apareció vestido con indumentaria tradicional albanesa y llegó incluso a dirigirse al Parlamento.
“No tengo ambiciones ni intereses personales”, declaró. Y debo reconocer que es difícil discutirle eso a una inteligencia artificial. Pero mientras observaba este experimento, apareció para mí una pregunta bastante más importante que las imágenes futuristas de una ministra virtual hablando ante un Parlamento:
¿Quién responde cuando una inteligencia artificial se equivoca?
Una ministra humana puede ser interrogada. Puede ser destituida. Puede enfrentar una investigación judicial. Puede incluso terminar condenada. ¿Y una ministra virtual? No podemos encarcelar un algoritmo. Tampoco podemos exigir responsabilidad política a una línea de código.
Por eso creo que estamos cometiendo un error cuando hablamos de estas tecnologías como si fueran actores completamente independientes. Detrás de cualquier sistema de inteligencia artificial hay funcionarios que deciden qué información recibe, empresas que suministran tecnología, programadores que construyen herramientas y autoridades que determinan cómo serán utilizadas. Reemplazar una parte de la burocracia con algoritmos, entonces, no necesariamente elimina las oportunidades de corrupción. Puede simplemente trasladarlas.
La advertencia para América Latina
Y aquí es donde creo que el pequeño experimento albanés debería interesarnos muchísimo más. En América Latina conocemos demasiado bien los escándalos alrededor de las contrataciones públicas. Hemos visto licitaciones direccionadas, sobrecostos, empresas vinculadas al poder y contratos públicos convertidos en instrumentos de favores políticos. Por eso sería tremendamente tentador pensar que la inteligencia artificial puede solucionar el problema. Y, en parte, puede ayudar.
Un algoritmo puede revisar miles de documentos en segundos. Puede comparar precios. Puede detectar relaciones entre empresas. Puede identificar patrones sospechosos que un auditor humano tardaría meses en encontrar. Yo sería el último en negar esas posibilidades. Pero encuentro una diferencia enorme entre utilizar inteligencia artificial como herramienta de control y presentarla como sustituto de instituciones confiables. Ahí está, para mí, el verdadero peligro.
Un país con instituciones débiles no se convierte automáticamente en transparente porque instale inteligencia artificial. Corre el riesgo de terminar digitalizando sus viejos vicios.
Imaginemos un sistema automatizado encargado de seleccionar proveedores del Estado. Yo empezaría haciendo preguntas bastante menos futuristas y mucho más políticas y si se quiere con filtros más humanas como:
¿Quién define los criterios?
¿Quién controla los datos?
¿Quién contrata a la empresa que desarrolla el software?
¿Quién audita el algoritmo?
¿Y quién investiga a quienes deberían auditarlo?
Estas preguntas son mucho menos glamorosas que presentar una ministra virtual ante las cámaras. Pero sospecho que son muchísimo más importantes y en América Latina deberíamos empezar a formularlas ahora, antes de enamorarnos de la idea de que una nueva tecnología puede solucionar problemas institucionales acumulados durante décadas.
El problema nunca fue solamente tecnológico
Albania tiene razones concretas para preocuparse por su imagen institucional. La lucha contra la corrupción y el fortalecimiento del Estado de derecho son asuntos importantes en su proceso de integración europea. Por eso creo que Diella fue también una extraordinaria herramienta política. La imagen era perfecta y la narrativa era genial:
Un pequeño país europeo utilizando una de las tecnologías más avanzadas del mundo para resolver uno de los problemas más antiguos de la política.
El problema es que la realidad suele ser bastante menos elegante que las presentaciones tecnológicas. La inteligencia artificial puede ayudar a detectar corrupción. Puede dificultarla. Puede hacer más transparentes determinados procesos. Puede convertirse en una herramienta formidable para fiscales, auditores, periodistas y organismos de control. Pero no creo que pueda sustituir fiscales independientes, jueces confiables, organismos de control efectivos, periodistas de investigación y ciudadanos dispuestos a exigir explicaciones a sus gobernantes.
Porque la corrupción no existe simplemente por falta de tecnología, es más, se trata de algo totalmente ligado a la existencia del Estado. Existe cuando hay personas con suficiente poder para manipular las reglas y demasiado pocas posibilidades de sufrir consecuencias por hacerlo y ningún algoritmo cambia automáticamente esa ecuación.
La experiencia albanesa apenas está comenzando y me parecería apresurado declarar fracasado el proyecto. Al contrario: creo que deberíamos seguir muy atentamente lo que ocurra en ese pequeño país europeo, más aún siendo de una región asfixiada por la corrupción. Es un experimento ideal para LATAM. Diella todavía podría convertirse en una herramienta útil para transparentar las contrataciones públicas y su historia ya nos dejó una lección.
Durante los últimos años nos hemos preguntado una y otra vez si la inteligencia artificial terminará reemplazando a los políticos y empiezo a pensar que quizás estamos formulando mal la pregunta. La pregunta verdaderamente importante viene antes es un dudar:
¿Quién vigilará a los seres humanos que controlan a las máquinas?
Porque podemos construir algoritmos cada vez más sofisticados. Podemos automatizar licitaciones, analizar millones de documentos y detectar irregularidades en segundos. Pero detrás de cada algoritmo seguirá existiendo, por ahora, una decisión humana y si algo nos está enseñando Albania es que antes de preguntarnos si la inteligencia artificial puede eliminar la corrupción, deberíamos asegurarnos de que la corrupción humana no termine controlando a la inteligencia artificial.