Oye, Siri: ¿ha habido algún acto de corrupción hoy?

Esta semana el Primer Ministro de Albania, Edi Rama, anunció que el país tendría un nuevo ministro para combatir la corrupción y que será una ministra: Diella, un chatbot de IA.

Diella, que significa “sol” en albanés, funciona en el gobierno albanés desde enero, cuando comenzó como asistente virtual que ayuda a los ciudadanos a usar la plataforma digital e-Albania, de servicios gubernamentales. Según un informe de A2 affiliada  a la CNN en el momento en que se lanzó, el chatbot se construyó sobre un modelo de lenguaje de OpenAI y la plataforma Azure de Microsoft. Aunque inicialmente su tarea consistía en ayudar a las personas a interactuar con los sistemas del gobierno, ahora se le suma el monitoreo de potenciales actos de corrupción de funcionarios.

Virtual ¿e incorruptible?

“Diella es la primera participante del gabinete que no está físicamente presente. Es virtual, creada con IA”, dijo Rama el jueves según The Guardian, que apuntará a crear “un país donde las licitaciones públicas sean 100% sin corrupción”. El área de otorgar contratos por parte del gobierno ya no estará a cargo de los ministerios, sino que se le confiará por completo a Diella, a quien Rama definió como “servidora pública de adquisiciones”, según Politico.

En su nuevo rol, el chatbot se usará para revisar todas las propuestas de las compañías privadas para cumplir con contratos del gobierno, y evaluará cada licitación por sus méritos. Según Rama, la herramienta de IA podrá otorgar contratos a “talentos de todo el mundo” mitigando “el temor a prejuicio y rigidez del gobierno”.

La corrupción en los contratos públicos es un problema importante en Albania, que desde 2009 ha estado intentando acceder a la Unión Europea, pero la UE ha criticado al país reiteradas veces por la corrupción existente, alentándole a adoptar nuevas reglas que acaben con el problema y respalden así su solicitud de ser miembro. A su favor, Albania sí ha avanzado al respecto, promulgando importantes reformas legales que llevaron a la remoción de muchos jueces y fiscales con vínculos con organizaciones criminales.

Por supuesto, la IA no es objetiva ni está libre de sesgos, ya que depende de la fuente de información que la entrenó. Pero se presume que es menos probable que sucumba a tentaciones humanas, y hay trabajos de investigación que sugieren que las herramientas de IA pueden ayudar a mantener la integridad de las adquisiciones, a detectar fraude, y a colaborar en esfuerzos anti lavado de dinero, pero eso supone que opera sin responder a los intereses de quienes están detrás de su funcionamiento. El poder tiende a corromper, de modo que habrá que ver si los datos se resisten.

Este artículo ha sido traducido de Gizmodo US por Romina Fabbretti. Aquí podrás encontrar la versión original.