Derechos humanos frente a la automatización de las decisiones públicas: revisión bibliográfica
DOI:
https://doi.org/10.63688/mhk0nv05Palabras clave:
inteligencia artificial, decisiones automatizadas, derechos humanos, administración pública, protección jurídicaResumen
La automatización de las decisiones públicas mediante sistemas de inteligencia artificial plantea riesgos relevantes para la protección de los derechos humanos, especialmente cuando sus resultados inciden en derechos, obligaciones o acceso a servicios públicos. El estudio tuvo como objetivo analizar las implicaciones jurídicas de estas tecnologías y las principales garantías aplicables frente a sus riesgos. Se desarrolló una investigación cualitativa, documental y descriptivo-analítica, basada en una revisión bibliográfica de 13 artículos científicos publicados entre 2021 y 2026. Los hallazgos identificaron como principales derechos comprometidos la transparencia, el acceso a la información, la igualdad y no discriminación, la protección de datos personales, el debido proceso, la tutela efectiva y la motivación administrativa. También se reconocieron riesgos asociados con la opacidad algorítmica, los sesgos, la supervisión humana insuficiente, la responsabilidad difusa y la posibilidad de afectaciones sistémicas. La revisión mostró que la protección jurídica requiere combinar garantías preventivas, procedimentales e institucionales, entre ellas evaluaciones de impacto, explicabilidad, trazabilidad, supervisión humana efectiva, auditoría, impugnación y reparación. Se concluye que la automatización administrativa debe mantenerse subordinada a los principios de legalidad, responsabilidad y protección efectiva de los derechos humanos durante todo el ciclo de utilización del sistema, en todas las etapas de actuación pública.
Referencias
Alon-Barkat, S., & Busuioc, M. (2023). Human–AI interactions in public sector decision making: “Automation bias” and “selective adherence” to algorithmic advice. Journal of Public Administration Research and Theory, 33(1), 153–169. https://doi.org/10.1093/jopart/muac007
Ameen, K., Towfiq, T., Mousa, K., & Pooyanmehr, M. (2026). Judicial review of algorithmic administrative systems: Legality, evidence and remedies in the smart city state. Frontiers in Artificial Intelligence, 9, 1802986. https://doi.org/10.3389/frai.2026.1802986
Arnesen, L. (2026). Comparing the right to information about automated decision-making to the new right to explanation. International Data Privacy Law, 16(2), ipag008. https://doi.org/10.1093/idpl/ipag008
Bayamlıoğlu, E. (2022). The right to contest automated decisions under the General Data Protection Regulation: Beyond the so-called “right to explanation”. Regulation & Governance, 16(4), 1058–1078. https://doi.org/10.1111/rego.12391
Binns, R., & Veale, M. (2021). Is that your final decision? Multi-stage profiling, selective effects, and Article 22 of the GDPR. International Data Privacy Law, 11(4), 319–332. https://doi.org/10.1093/idpl/ipab020
Cheong, B. (2024). Transparency and accountability in AI systems: Safeguarding wellbeing in the age of algorithmic decision-making. Frontiers in Human Dynamics, 6, 1421273. https://doi.org/10.3389/fhumd.2024.1421273
Christodoulou, P., & Limniotis, K. (2024). Data protection issues in automated decision-making systems based on machine learning: Research challenges. Network, 4(1), 91–113. https://doi.org/10.3390/network4010005
Código Orgánico Administrativo. (2017). Registro Oficial, Segundo Suplemento No. 31, 7 de julio de 2017. https://www.defensa.gob.ec/wp-content/uploads/downloads/2023/03/COA_feb_2023.pdf
Consejo de Europa. (2024). Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho (CETS No. 225). https://www.boe.es/doue/2026/1081/L00001-00013.pdf
Constitución de la República del Ecuador. (2008). Registro Oficial No. 449, 20 de octubre de 2008. https://www.defensa.gob.ec/wp-content/uploads/downloads/2021/02/Constitucion-de-la-Republica-del-Ecuador_act_ene-2021.pdf
Convención Americana sobre Derechos Humanos (Pacto de San José). (1969). Organización de los Estados Americanos. https://www.oas.org/es/cidh/mandato/documentos-basicos/convencion-americana-derechos-humanos.pdf
Custers, B., & Heijne, A.-S. (2022). The right of access in automated decision-making: The scope of Article 15(1)(h) GDPR in theory and practice. Computer Law & Security Review, 46, 105727. https://doi.org/10.1016/j.clsr.2022.105727
Declaración Universal de Derechos Humanos. (1948). https://www.un.org/es/about-us/universal-declaration-of-human-rights
Dexe, J., Franke, U., Söderlund, K., Berkel, N., Jensen, R., Lepinkäinen, N., & Vaiste, J. (2022). Explaining automated decision-making: A multinational study of the GDPR right to meaningful information. The Geneva Papers on Risk and Insurance—Issues and Practice, 47(3), 669–697. https://doi.org/10.1057/s41288-022-00271-9
Dragomir, A., Bulea, I., & Tarnu, L. (2026). Human-centric AI governance in the European Union: Accountability, fundamental rights, and institutional resilience in public administration. Frontiers in Political Science, 8, 1928481. https://doi.org/10.3389/fpos.2026.1928481
Fischman-Afori, O. (2025). Due process by design: Enhancing fairness and trust in AI decision-making. Social Sciences & Humanities Open, 12, 102178. https://doi.org/10.1016/j.ssaho.2025.102178
Freitas, J. (2026). The challenges of AI regulation: Data protection, civil rights, and landmark cases. Frontiers in Political Science, 8, 1626848. https://doi.org/10.3389/fpos.2026.1626848
Grant, D., Behrends, J., & Basl, J. (2025). What we owe to decision-subjects: Beyond transparency and explanation in automated decision-making. Philosophical Studies, 182, 55–85. https://doi.org/10.1007/s11098-023-02013-6
Green, B. (2022). The flaws of policies requiring human oversight of government algorithms. Computer Law & Security Review, 45, 105681. https://doi.org/10.1016/j.clsr.2022.105681
Grimmelikhuijsen, S. (2023). Explaining why the computer says no: Algorithmic transparency affects the perceived trustworthiness of automated decision-making. Public Administration Review, 83(2), 241–262. https://doi.org/10.1111/puar.13483
He, J., & Zhang, Z. (2025). Algorithm power and legal boundaries: Rights conflicts and governance responses in the era of artificial intelligence. Laws, 14(4), 54. https://doi.org/10.3390/laws14040054
Lendvai, G., & Gosztonyi, G. (2025). Algorithmic bias as a core legal dilemma in the age of artificial intelligence: Conceptual basis and the current state of regulation. Laws, 14(3), 41. https://doi.org/10.3390/laws14030041
Ley del Sistema Nacional de Registro de Datos Públicos. (2010). Registro Oficial, Suplemento No. 162, 31 de marzo de 2010. https://www.gob.ec/sites/default/files/regulations/2018-10/LEY%20SINARDAP.pdf
Ley Orgánica de Garantías Jurisdiccionales y Control Constitucional. (2009). Registro Oficial, Segundo Suplemento No. 52, 22 de octubre de 2009. https://biblioteca.defensoria.gob.ec/bitstream/37000/3823/3/Ley%20Org%c3%a1nica%20de%20Garant%c3%adas%20Jurisdiccionales%20y%20Control%20Constitucional.%20%c3%9altima%20reforma.pdf
Ley Orgánica de Protección de Datos Personales. (2021). Registro Oficial, Quinto Suplemento No. 459, 26 de mayo de 2021. https://www.telecomunicaciones.gob.ec/wp-content/uploads/2023/11/LOPDP-LEXIS.pdf
Ley Orgánica de Transparencia y Acceso a la Información Pública. (2023). Registro Oficial, Segundo Suplemento No. 245, 7 de febrero de 2023. https://www.gob.ec/sites/default/files/regulations/2020-06/LOTAIP.pdf
Lütz, F. (2022). Gender equality and artificial intelligence in Europe: Addressing direct and indirect impacts of algorithms on gender-based discrimination. ERA Forum, 23, 33–52. https://doi.org/10.1007/s12027-022-00709-6
Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. (2021). Recomendación sobre la ética de la inteligencia artificial. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000381137
Pacto Internacional de Derechos Civiles y Políticos. (1966). https://www.ohchr.org/es/instruments-mechanisms/instruments/international-covenant-civil-and-political-rights
Papadimitriou, E. (2023). The right to explanation in the processing of personal data with the use of AI systems. International Journal of Law in Changing World, 2(2), 43–55. https://doi.org/10.54934/ijlcw.v2i2.53
Parlamento Europeo & Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea. https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng
Peters, U. (2023). Explainable AI lacks regulative reasons: Why AI and human decision-making are not equally opaque. AI and Ethics, 3, 963–974. https://doi.org/10.1007/s43681-022-00217-w
Reglamento General a la Ley Orgánica de Protección de Datos Personales (Decreto Ejecutivo No. 904). (2023). Registro Oficial, Tercer Suplemento No. 435, 13 de noviembre de 2023. https://www.cosede.gob.ec/wp-content/uploads/2023/12/REGLAMENTO-GENERAL-A-LA-LEY-ORG%C3%81NICA-DE-PROTECCION-DE-DATOS-PERSONALES_compressed-1.pdf
Sanchez-Graells, A. (2024). Resh(AI)ping good administration: Addressing the mass effects of public sector digitalisation. Laws, 13(1), 9. https://doi.org/10.3390/laws13010009
Teo, S. (2025). Artificial intelligence and its ‘slow violence’ to human rights. AI and Ethics, 5, 2265–2280. https://doi.org/10.1007/s43681-024-00547-x
Thomaidou, A., & Limniotis, K. (2025). Navigating through human rights in AI: Exploring the interplay between GDPR and fundamental rights impact assessment. Journal of Cybersecurity and Privacy, 5(1), 7. https://doi.org/10.3390/jcp5010007
Wang, X., Wu, Y., Ji, X., & Fu, H. (2024). Algorithmic discrimination: Examining its types and regulatory measures with emphasis on US legal practices. Frontiers in Artificial Intelligence, 7, 1320277. https://doi.org/10.3389/frai.2024.1320277
Zuiderwijk, A., Chen, Y.-C., & Salem, F. (2021). Implications of the use of artificial intelligence in public governance: A systematic literature review and a research agenda. Government Information Quarterly, 38(3), 101577. https://doi.org/10.1016/j.giq.2021.101577
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Paulo Cesar Sotomayor Padilla, Jessica Jessennia Moreno Acosta, Frank Eduardo Vargas Iza, Adriana Carolina Calderon Muñoz, María Lorena Segura Andrade (Autor/a)
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
El artículo se distribuye bajo la Licencia Creative Commons Atribución 4.0 . Salvo que se indique lo contrario, el material publicado asociado se distribuye bajo la misma licencia.
