Inteligencia artificial y sistemas de puntuación social: entre la distopía y la realidad

Resumen

Este trabajo examina los sistemas de puntuación social y de reputación algorítmica como una de las manifestaciones más intensas de la gobernanza automatizada contemporánea. A partir del caso paradigmático de la República Popular China y de su Sistema de Crédito Social, el artículo analiza la lógica de clasificación y vigilancia que subyace a estos mecanismos, así como sus efectos sobre las oportunidades, libertades y condiciones de vida de las personas. El estudio aborda también el caso neerlandés del Toeslagenaffaire, en el que el uso de algoritmos en la detección de fraude produjo efectos discriminatorios y decisiones gravemente lesivas, y la experiencia italiana en materia de rating reputacional, especialmente a la luz de la jurisprudencia y de las decisiones de la Autoridad de Protección de Datos. Sobre esta base, el trabajo sostiene que la expansión de la toma de decisiones automatizada exige reforzar las garantías de transparencia, control humano, proporcionalidad y protección de la dignidad de la persona. La reflexión final propone desplazar la atención desde la algocracia hacia una algorética orientada por los derechos fundamentales