Nombre del autor:Martín Villar

Presentamos una propuesta de resolución ante la Agencia de Acceso a la Información Pública que establece un estándar para que el sector público nacional rinda cuenta sobre los SDA en uso. El proyecto responde a la necesidad de promover la rendición de cuentas y la claridad en el uso de la inteligencia artificial y los algoritmos en la administración gubernamental. 

Al establecer un estándar de este tipo, estamos enfocados en garantizar que los ciudadanos y las partes interesadas tengan acceso a información completa sobre la aplicación de estas tecnologías en el ámbito público, lo que contribuirá a un gobierno más transparente y ético en beneficio de la sociedad en su conjunto.

Podés consultar el proyecto ingresando en el enlace.

Recientemente, llevamos a cabo una campaña de comunicación en la vía pública con el objetivo de promover la participación ciudadana y fomentar la transparencia en el uso de sistemas de decisión automatizada en el sector público. 

A través de anuncios y mensajes visibles en lugares estratégicos de la Ciudad Autónoma de Buenos Aires, alentamos a la ciudadanía a informar si tienen conocimiento de algún sistema de este tipo en funcionamiento. 

Creemos firmemente en la importancia de involucrar a la comunidad en la identificación de estos sistemas, ya que su participación activa es fundamental para garantizar un gobierno abierto y responsable. 

Esta iniciativa refleja nuestro compromiso con la rendición de cuentas y la colaboración entre nuestra organización y los ciudadanos para construir un futuro más transparente y equitativo en el ámbito público.

El observatorio, como plataforma de investigación y monitoreo, se ha convertido en un recurso esencial para comprender la situación actual de los SDA en nuestro país, así como para evaluar su impacto en la vida de los ciudadanos y el funcionamiento de las instituciones. 

Gracias al primer relevamiento efectuado hemos podido llevar a cabo un análisis detallado de cada uno de los SDA identificados, examinando aspectos críticos como las fuentes de datos, las posibles implicaciones éticas y sociales, y las salvaguardias implementadas para garantizar la equidad y la transparencia en las decisiones automatizadas.

Continuaremos monitoreando a los SDA para garantizar que este relevamiento sea el punto de partida para iniciativas que promuevan la responsabilidad y la ética en la toma de decisiones automatizadas, contribuyendo así a un futuro donde la tecnología sirva como una herramienta para el bienestar y la igualdad de oportunidades para todos los ciudadanos.

El informe es una iniciativa de Algorithmic Avengers y tiene por objeto presentar los resultados de la investigación realizada en el marco del relevamiento de los Sistemas de Decisiones Automatizadas (SDA) en uso por el Estado Nacional Argentino.

En el primer capítulo, se hace un breve recorrido por las definiciones de los SDA y de IA, como así también se pone de resalto la importancia que ha tomada la transparencia sobre dichos sistemas y ponen de resalto los principios y normas que existen en el ámbito nacional relacionados al uso, mejores prácticas, principios democráticos y de respeto a los Derechos Humanos que deben seguir los que operen en el ámbito público con de dichos sistemas.

En el segundo capítulo se evidencia la necesidad de contar con un observatorio de control ciudadano que posibilite supervisar el manejo de los SDA públicos y se hace una reseña sobre los principales observatorios que actualmente se encuentran en funcionamiento a nivel internacional.

A su vez, en el capítulo se detalla el estándar y las herramientas desarrolladas en el marco del Observatorio para llevar el seguimiento de los SDA instrumentados en el sector público.

Por su parte, el tercer capítulo desagrega la metodología con la que se trabajó para realizar el relevamiento de los SDA utilizados por el Estado Nacional, como así también los principales resultados arrojados del análisis de la información remitida por las dependencias de gobierno.

Además, en el capítulo se muestran las limitaciones detectadas en el marco del relevamiento con las que nos encontramos al momento de analizar la información y que se relacionan básicamente con la demora en contestar las solicitudes y la negativa de proporcionar la información requerida.

Por último, se enumeran una serie de hallazgos y conclusiones producto del análisis con el fin de generar las futuras líneas de trabajo.

Ver informe

El Observatorio Social de Algoritmos Públicos (OSAP) tiene por objeto dar a conocer los Sistemas de Decisiones Automatizadas (SDA) en uso en el Estado Nacional. 

Al poner en evidencia la presencia y el funcionamiento de estos sistemas, el Observatorio busca fomentar la rendición de cuentas, promover la transparencia y garantizar que las decisiones automatizadas adoptadas por las diferentes oficinas estatales sean coherentes con principios éticos y normativas legales.

¿Por qué monitoreamos los SDA?

La implementación de los SDA por parte de instituciones públicas tiene un impacto directo en la vida de las personas ya que los gobiernos se relacionan con la ciudadanía básicamente a través de la prestación de servicios públicos utilizando una gran cantidad de datos.

Cuando estos sistemas están sujetos a sesgos, o por un error en el diseño o implementación no funcionan cómo se había planificado o directamente fueron desarrollados para discriminar injustamente, se generan graves perjuicios a las personas. Esto se traduce en amenazas a la privacidad individual, discriminación injusta basada en factores como el género, la raza, la religión, la discapacidad y/o las condiciones socio-económicas que amplifican las desigualdades preexistentes, produciendo un debilitamiento sobre los derechos adquiridos por la ciudadanía.

¿Qué SDA controlamos?

El Observatorio controla a los SDA con impacto social que se encuentran operando las instituciones del sector público y relacionadas con cuestiones policiales y de seguridad; de servicios sociales; de justicia y procesos judiciales; de educación; de trabajo y recursos humanos; de servicios crediticios y financieros; entre las más destacadas.

Somos un Think Tank especializado en fomentar la Automatización Responsable. 

A través de investigaciones exhaustivas, análisis de políticas y en colaboración con expertos de diversas disciplinas, trabajamos para identificar tendencias, oportunidades y desafíos en este ámbito en constante evolución. 

Nuestra misión es proporcionar una perspectiva objetiva y basada en datos sobre cómo las automatizaciones están influyendo en el sector público y privado. 

Nuestra visión es promover un uso ético, responsable y beneficioso de las automatizaciones, asegurando que estas tecnologías se alineen con los valores y las necesidades de la sociedad en su conjunto.

Hacemos

Nuestro trabajo abarca desde la investigación y desarrollo de campañas de concientización hasta la implementación de medidas concretas para abordar desafíos específicos que se generan con los procesos de Automatización Responsable.

1.- DATOS

Visibilizamos los principales desafíos de las automatizaciones a partir de la evidencia. Sabemos que es necesario poner luz sobre las automatizaciones, por eso realizamos investigaciones a través del análisis de los datos que generamos. Publicamos informes de manera periódica posicionando a los Derechos Humanos en el centro del debate.

2.- SESIONES

Generamos espacios de diálogo entre los principales actores del ecosistema. El avance de las automatizaciones requiere de debates entre expertos de las más diversas disciplinas que se sostengan en el tiempo. Con este objetivo, generamos espacios de trabajo y mesas de diálogo con líderes del sector público y privado para impulsar acuerdos en las diferentes materias en las que trabajamos.

3.- CAMPAÑAS

Potenciamos la voz de la ciudadanía en busca de soluciones para proteger los Derechos Humanos ante el avance de las automatizaciones. Concientizar sobre los avances de las automatizaciones requiere del compromiso y conocimiento de todas/os. Una vez que detectamos los desafíos convertimos los resultados de las investigaciones en acciones concretas, en el desarrollo de alianzas y el impulso de campañas para que la instrumentación de las automatizaciones se impulsen respetando los Derechos Fundamentales.

4.- EVALUACIONES

Efectuamos evaluaciones de las automatizaciones para verificar su correlato en los principios éticos y sociales. A través de la instrumentación de una metodología de Automatización Responsable buscamos garantizar que estos sistemas se utilicen de manera justa, transparente y ética, promoviendo así un mayor grado de responsabilidad y rendición de cuentas en el uso de tecnologías.