Los Sistemas de Inteligencia Artificial (SIA) abarcan una amplia gama de ideas controvertidas. En noviembre de 2018, el Grupo de Expertos en IA de la OCDE (AIGO) estableció un subgrupo para desarrollar una descripción de un sistema de IA, definiéndolo como un sistema basado en máquinas que es capaz de influir en el entorno produciendo un resultado (predicciones, recomendaciones o decisiones) para un conjunto determinado de objetivos. Utiliza datos e insumos basados en máquinas y/o humanos para a) percibir entornos reales y/o virtuales; b) abstraer estas percepciones en modelos a través del análisis de manera automatizada, o manualmente; y c) usar la inferencia del modelo para formular opciones para los resultados.
Por su parte, los algoritmos son: “Un conjunto de reglas computacionales que equivale a una secuencia de operaciones para tomar una entrada y convertirla en una salida”. Es decir, un conjunto de instrucciones, reglas o una serie metódica de pasos que puede utilizarse para hacer cálculos, resolver problemas y tomar decisiones.
Los Sistemas de Decisiones Automatizadas (SDA automated decision system o automated decision making, ADMS o ADM por sus siglas en inglés) son implementados para desarrollar un rol particular o la totalidad del proceso en la toma de decisiones.
Un SDA es un sistema controlado algorítmicamente, en el que un proceso de decisión se delega parcial o totalmente a otro, el que a su vez toma o propone una decisión automáticamente. La delegación, no de la decisión en sí, sino de la ejecución, a un sistema basado en datos y controlado algorítmicamente, es en lo que debemos poner el foco de atención.
Los resultados de los algoritmos más potentes de la IA, los de “deep learning”, en efecto, son difíciles de entender, ya que el proceso que desarrolla es opaco. Se los conoce como “caja negra”. Sin embargo, hay muchos algoritmos de aprendizaje automático que son perfectamente inteligibles (cajas blancas) para saber cómo se ha llegado a una determinada conclusión. Por ejemplo, los llamados “árboles de decisión”, son perfectamente comprensibles. El algoritmo puede demostrar todas las variables que han influido en su decisión y con qué importancia.
Aunque, hasta la fecha, la mayoría de los expertos prefieren usar “deep learning” por su prestaciones superiores, cada vez más son las empresas que consideran usar un algoritmo interpretable “caja blanca” si su prestación es suficientemente buena para resolver el problema de negocio, aunque sea un rendimiento un poco peor que un algoritmo de “caja negra”. La razón es la explicabilidad, que, en ciertas aplicaciones, debe tener un peso importante, como en el sector médico. De todas formas, hoy en día hay mucha investigación trabajando en mejorar la explicabilidad de los algoritmos de “deep learning”.
La creciente adopción de herramientas de automatización en el sector público, los responsables políticos, funcionarios y administradores deben comprender cómo afecta la automatización a los contextos de toma de decisiones. Aunque la normativa suele promover la supervisión humana como una medida de protección, los expertos advierten sobre la falta de sensación de seguridad que promete dicha supervisión, puesto que el riesgo que suponen las SDA va más allá del criterio del personal de asistencia.
Los Sistemas pueden estar diseñados para recopilar datos de las personas; evaluar el comportamiento humano, identificar rasgos biométricos; predecir el comportamiento humano; perfilar a las personas; simular el habla humana; reconocimiento de imágenes; reconocimientos de sonidos; automatización de tareas rutinarias, entre otros.