La gobernanza de datos y de IA como herramientas para gestionar los riesgos derivados de los sesgos

Resumen

En este artículo se aborda el concepto de sesgos, se diferencia de otros afines con los que tiene relación y a veces se confunden y se describen las etapas del ciclo de vida de los sistemas de IA identificando cómo pueden penetrar los sesgos en cada una de ellas para, a partir de ahí, poder gestionar los riesgos derivados de los mismos.

Tras una visión general de las obligaciones que para los diferentes sujetos dispone el RIA y que pueden permitir la gestión de los riesgos para los derechos fundamentales, nos hemos centrado en dos concretas. Primero, la gobernanza de los datos, que se refiere a cómo se gestionan los datos utilizados por los sistemas de IA de alto riesgo, y que tiene un impacto directo en los sesgos. Segundo, la gobernanza de la IA que permite ordenar las diversas obligaciones en torno a un sistema de gestión de tal forma que se planifiquen, operen, monitoricen y se proceda a una mejora continua, para lo cual se apuesta por utilizar un estándar como la BS ISO/IEC 42001:2023 (Information technology — Artificial intelligence — Management system, ahora ya norma española mediante la UNE-ISO/IEC: 2025), por los beneficios que se mencionan en el artículo.