Decisión administrativa algorítmica discriminatoria y datos: reflexiones y propuestas

Resumen

El uso de algoritmos en la actividad de las administraciones públicas plantea importantes desafíos jurídicos, especialmente en relación con el riesgo de discriminación derivado del tratamiento de datos. Este trabajo analiza la relación estructural entre algoritmos y datos, subrayando cómo los sesgos presentes en los conjuntos de datos pueden reproducirse y amplificarse en los procesos de toma de decisiones automatizados. A partir del análisis del caso italiano del algoritmo de la «Buena Escuela» y de otros ejemplos de decisiones administrativas basadas en sistemas automatizados, el artículo muestra cómo la automatización puede generar efectos discriminatorios, especialmente en ámbitos sensibles como la asignación de recursos públicos o prestaciones sociales. El estudio examina el papel de la transparencia algorítmica y de la obligación de motivación como instrumentos esenciales para garantizar la legalidad, la controlabilidad y la legitimidad de las decisiones administrativas automatizadas. Asimismo, se destaca la contribución del Derecho de la Unión Europea, en particular la Carta de los Derechos Fundamentales y el Reglamento de IA, en la construcción de un marco normativo destinado a prevenir la discriminación algorítmica. El artículo concluye subrayando la función central del Derecho administrativo en la regulación y orientación del uso de algoritmos en la administración pública, con el objetivo de garantizar el respeto de los derechos fundamentales y el derecho a una buena administración.