El Observatorio Social de Algoritmos Públicos (OSAP) tiene por objeto dar a conocer los Sistemas de Decisiones Automatizadas (SDA) en uso en el Estado Nacional.
Al poner en evidencia la presencia y el funcionamiento de estos sistemas, el Observatorio busca fomentar la rendición de cuentas, promover la transparencia y garantizar que las decisiones automatizadas adoptadas por las diferentes oficinas estatales sean coherentes con principios éticos y normativas legales.
¿Por qué monitoreamos los SDA?
La implementación de los SDA por parte de instituciones públicas tiene un impacto directo en la vida de las personas ya que los gobiernos se relacionan con la ciudadanía básicamente a través de la prestación de servicios públicos utilizando una gran cantidad de datos.
Cuando estos sistemas están sujetos a sesgos, o por un error en el diseño o implementación no funcionan cómo se había planificado o directamente fueron desarrollados para discriminar injustamente, se generan graves perjuicios a las personas. Esto se traduce en amenazas a la privacidad individual, discriminación injusta basada en factores como el género, la raza, la religión, la discapacidad y/o las condiciones socio-económicas que amplifican las desigualdades preexistentes, produciendo un debilitamiento sobre los derechos adquiridos por la ciudadanía.
¿Qué SDA controlamos?
El Observatorio controla a los SDA con impacto social que se encuentran operando las instituciones del sector público y relacionadas con cuestiones policiales y de seguridad; de servicios sociales; de justicia y procesos judiciales; de educación; de trabajo y recursos humanos; de servicios crediticios y financieros; entre las más destacadas.