Finalizó el primer relevamiento de algoritmos de IA en el Estado: cuántos detectaron y para qué se usan
Nota de infobae del 29 de agosto de 2023
La organización Algorithmic Avengers realizó el primer relevamiento de los Sistemas de Decisiones Automatizadas (SDA) que están actualmente en uso en dependencias del Estado Nacional con el fin de “fomentar el debate en relación a la necesidad de fortalecer la transparencia y la rendición de cuentas sobre dichos sistemas”.
Para recolectar la información se iniciaron 117 expedientes de Acceso a la Información Pública en un total de 2934 áreas de gobierno.
La investigación permitió sistematizar los SDA en uso, generar los procedimientos necesarias para ir incorporando los sistemas que se vayan desarrollando, esquematizar los procesos para anexar los nuevos datos sobre los existentes y elaborar un proyecto de resolución que obliga a las dependencias del Estado Nacional a transparentar sus SDA.
Un SDA, según explica el informe, es un sistema controlado algorítmicamente, en el que un proceso de decisión se delega parcial o totalmente a otro, el que a su vez toma o propone una decisión automáticamente.
Se identificaron un total de 10 SDA que se encuentran operando en las siguientes dependencias: Jefatura de Gabinete de Ministros (Servicio de Chatbot); Comisión Nacional de Actividades Espaciales (Algoritmos de machine learning); en el Ministerio de Economía (Jiménez-Olé y Chat-Bot); Comisión Nacional de Valores (Stockwatch); Registro Nacional de las Personas (Algoritmos de identificación); Ministerio de Obras Públicas (sistema de gestión vial y IA para automatización); y en el Instituto Nacional Central Único Coordinador de Ablación e Implante (SINTRA).
“Resulta extraño que a nivel nacional la Argentina cuente con tan pocos SDA en uso para gestionar sus políticas públicas y que no tenga un Plan de Inteligencia Artificial operativo que desagregue las acciones presentes y futuras sobre este tipo de tecnologías”, dice el informe entre sus conclusiones.
“Costó mucho el primer relevamiento porque el Estado siempre es reticente a dar información. Ya encontramos varios SDA más que no habían sido informados y ahora le estamos solicitando a la Agencia de Acceso a la Información que obligue a todas la áreas a transparentar sus sistemas, explicó a Infobae Martín Villar, director de Algorithmic Avengers.
El relevamiento se efectuó por medio de un cuestionario estándar que describe en diversas capas de análisis el detalle de las características de los SDA. La estructura del modelo se compone de cinco capítulos: 1) Información básica; 2) descripción del uso; 3) documentación sobre los datos utilizados; 4) explicación sobre la operación de los sistemas y 5) desagregación de las herramientas de supervisión y monitoreo.
Entre los hallazgos del relevamiento, el informe destaca que se logró constatar que es casi nula la información pública por parte de las diferentes dependencias del Estado Nacional sobre las operaciones de sus SDA y que existen tres áreas del gobierno nacional que se encuentran desarrollando documentos y/o normativas con una perspectiva similar sobre los posibles alcances de los sistemas de IA.
Luego de terminar el relevamiento, el Observatorio Social de Algoritmos Públicos (OSAP) elaboró un proyecto de norma para que el Estado Nacional obligue a las áreas de gobierno a transparentar sus SDA y sigue trabajando para fomentar el debate interno. “Países como Francia, Canadá o Nueva Zelanda elaboraron regulaciones para generar estándares de transparencia, con modelos diferentes pero con el mismo objetivo, rendir cuentas sobre cómo son utilizados por sus administraciones”, destaca el primer relevamiento.
