LA LEGISLACIÓN ADMINISTRATIVA ANTE EL RETO DE LOS SESGOS AUTOMATIZADOS

Resumo

La irrupción de la inteligencia artificial (IA) en el ámbito de la Administración pública está transformando de manera sustancial los procesos de toma de decisiones administrativas, tanto en su dimensión interna como en su impacto externo. Esta transformación plantea desafíos jurídicos relevantes en relación con la garantía de los principios de igualdad y no discriminación, pilares fundamentales del derecho administrativo contemporáneo y parte indisoluble de los derechos humanos. Si bien la automatización promete incrementar la eficiencia, coherencia y predictibilidad de las decisiones administrativas, también puede reproducir —e incluso amplificar— sesgos estructurales y desigualdades preexistentes, en particular cuando los sistemas algorítmicos se alimentan de datos históricos que reflejan patrones discriminatorios. Un ejemplo claro de ello es el supuesto de Países Bajos que, mediante procedimientos automatizados, se impusieron sanciones administrativas a personas que no habían cometido ninguna sanción a causa de sesgos discriminatorios del algoritmo. En este contexto, el presente estudio explora críticamente la interrelación entre IA, desigualdad y derecho administrativo, con el objetivo de evaluar la capacidad del marco jurídico-administrativo vigente para afrontar estos retos y proponer líneas de desarrollo normativo e institucional. La investigación se estructura en cuatro partes. En primer lugar, se ofrece una sistematización de los principales usos de la IA en la actividad administrativa, prestando especial atención a los procedimientos de toma de decisiones automatizadas que afectan a derechos o situaciones jurídicas individuales. En segundo lugar, se analiza cómo la discriminación algorítmica puede manifestarse en este contexto, a través de distintas formas de sesgo —de datos, de diseño o de implementación—, y se examinan casos paradigmáticos que ilustran tales dinámicas. En tercer lugar, se contrasta este diagnóstico con los principios generales del derecho administrativo, en particular los de legalidad, igualdad, transparencia, motivación y control jurisdiccional, evaluando su adecuación para prevenir y corregir dinámicas discriminatorias derivadas del uso de IA. En cuarto lugar, se vehiculará el análisis de todo lo anterior a través del Reglamento de IA de la Unión Europea para detallar suficiencias y deficiencias de la norma en relación con las bondades y retos que plantea el tema. El estudio sostiene que el derecho administrativo, tal como está concebido actualmente, presenta notables lagunas para enfrentar los nuevos riesgos asociados al uso de tecnologías algorítmicas, tanto en términos de control ex ante como ex post. En consecuencia, se argumenta la necesidad de un replanteamiento normativo que incorpore mecanismos específicos de auditoría algorítmica, garantías reforzadas de control funcionarial y un aumento de la transparencia y de la trazabilidad.