Gobierno algorítmico y debido proceso en procedimientos administrativos
DOI:
https://doi.org/10.70577/ASCE/345.366/2025Palabras clave:
Transparencia, Explicabilidad, No Discriminación, Debido Proceso, IA Pública.Resumen
Introducción: Este artículo examinó el gobierno algorítmico y el debido proceso en decisiones administrativas asistidas por IA, destacando riesgos de opacidad, falta de explicaciones y sesgos que afectan beneficios sociales, tránsito, tributación y contratación pública. Objetivos: Formular y justificar un estándar mínimo exigible de transparencia, explicabilidad y no discriminación para el contexto ecuatoriano, alineado con marcos internacionales. Metodología: Se realizó una revisión documental sistemática 2016–2025 con protocolo tipo PRISMA, doble codificación independiente y matriz de indicadores 0–2, el corpus final incluyó 30 fuentes, equilibradas entre Ecuador e internacional, y se analizaron cuatro sectores críticos. Resultados: Se observó transparencia procedimental moderada, generalmente mayor fuera de Ecuador. La explicabilidad, especialmente la explicación local del caso, constituyó la brecha más persistente. La no discriminación permaneció mayormente enunciativa, con escasas pruebas y monitoreo de sesgos en operación. Conclusiones: Se proponen tres palancas complementarias para cerrar brechas y asegurar decisiones auditables y justas: fichas públicas estandarizadas por sistema con finalidad, base legal, datos, métricas, responsables y límites, institucionalización de explicaciones sistémicas y locales con supervisión humana efectiva y vías de impugnación, y evaluaciones de impacto publicables con auditorías periódicas y mecanismos de reparación. El estándar resultante fortalece motivación, rendición de cuentas e igualdad de trato.
Descargas
Citas
Amnistía Internacional. (2019). ¿Pueden la IA y el uso de algoritmos perpetuar la desigualdad? Tres casos en que la realidad supera la ficción [Artículo web].
Asamblea Nacional del Ecuador. (2017). Código Orgánico Administrativo [Ley].
Asamblea Nacional del Ecuador. (2021). Ley Orgánica de Protección de Datos Personales [Ley].
Asamblea Nacional del Ecuador. (2023). Ley Orgánica de Transparencia y Acceso a la Información Pública (reforma 2023) [Ley].
Asamblea Nacional del Ecuador. (2023). Ley Orgánica de Transformación Digital y Audiovisual [Ley].
Asamblea Nacional del Ecuador. (2024). Proyecto de Ley Orgánica de Regulación y Promoción de la Inteligencia Artificial [Proyecto de ley].
Comisión Europea. (2021). Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Acta de IA) [Propuesta de reglamento].
Corte Constitucional de Colombia. (2025). Sentencia T 067/25 [Acceso a código fuente y transparencia algorítmica].
Cotino Hueso, L. (2023). Qué concreta transparencia e información de algoritmos e IA es la debida. Revista Española de la Transparencia, (16), 1–25. DOI: https://doi.org/10.51915/ret.272
Defensoría del Pueblo del Ecuador, Fundación para el Desarrollo y Avance de la Transparencia y Participación (FUNDAPI), & Ministerio de Telecomunicaciones y de la Sociedad de la Información. (2024). Primer estudio de algoritmos públicos y transparencia algorítmica en Ecuador [Informe].
Gobierno de España. (2021). Carta de Derechos Digitales [Documento de política pública].
GobLab UAI & socios de la Alianza Latinoamericana para la Transparencia Algorítmica (ALTA). (2023). Alianza Latinoamericana para la Transparencia Algorítmica (ALTA): Declaración de lanzamiento y objetivos [Documento institucional].
Gualavisi Limaico, A. B. (2024). Estado de bienestar digital en Ecuador: Datificación ciudadana y machine learning en la construcción y gestión de la pobreza [Tesis/trabajo académico, FLACSO Ecuador]. DOI: https://doi.org/10.7770/cuhso-v34n1-art644
Lazcoz, G., & Castillo, J. A. (2020). Valoración algorítmica ante los derechos humanos y el RGPD: el caso SyRI. Revista Chilena de Derecho y Tecnología, 9(1), 1–35. DOI: https://doi.org/10.5354/0719-2584.2020.56843
LegalProd. (2024, mayo). Transparencia de los algoritmos [Entrada de blog]. LegalProd.
Maridueña Orellana, S. (2025). De la opacidad a la transparencia algorítmica estatal [Artículo de opinión jurídica]. Lexis.
Ministerio de Telecomunicaciones y de la Sociedad de la Información. (2021). Diagnóstico sobre la inteligencia artificial en el Ecuador [Informe].
Organización para la Cooperación y el Desarrollo Económicos (OCDE). (2019). Recomendación del Consejo sobre Inteligencia Artificial [Recomendación].
Organización para la Cooperación y el Desarrollo Económicos (OCDE). (2024). Transparencia algorítmica en el sector público: Estado de los instrumentos de transparencia [Informe].
Plaza, E. (2025, 14 de abril). Mientras el Constitucional colombiano reconoce el derecho a la transparencia algorítmica, España trata de blindar su opacidad [Artículo periodístico]. Fundación Civio.
Procuraduría General del Estado. (2023, marzo). La inteligencia artificial y el e procurement en la contratación pública [Artículo institucional].
Programa de las Naciones Unidas para el Desarrollo (PNUD). (2023). Evaluación del panorama de la inteligencia artificial en Ecuador [Informe].
Registro Social del Ecuador & Ministerio de Inclusión Económica y Social. (2018). Metodología de umbrales y focalización del Registro Social [Documento técnico].
Soto Bernabeu, L. (2021). La importancia de la transparencia algorítmica en el uso de la IA por la Administración tributaria. Crónica Tributaria, (179), 69–92. DOI: https://doi.org/10.47092/CT.21.2.4
Tesserae Bureau. (2023). Regulación de la inteligencia artificial en Ecuador [Informe].
UNCTAD, & Autoridad Catalana de la Competencia (ACCO). (2024). Inteligencia artificial y contratación pública en América Latina y el Caribe: Un diálogo regional para fortalecer la competencia [Libro de ponencias].
UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial [Instrumento internacional].
Unión Europea. (2016). Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales (RGPD) [Reglamento].
Velastegui, E. U. (2023). Inteligencia artificial y su potencial adopción en los servicios públicos: Desafíos y oportunidades en Ecuador (2021–2022) [Tesis de maestría, Pontificia Universidad Católica del Ecuador].
Presidencia de la República del Ecuador. (2024). Reglamento General a la Ley Orgánica de Transparencia y Acceso a la Información Pública [Decreto].
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2025 Juan Pablo Cruz Carrillo
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-CompartirIgual 4.0.
Eres libre de:
- Compartir : copiar y redistribuir el material en cualquier medio o formato
- Adaptar : remezclar, transformar y desarrollar el material
- El licenciante no puede revocar estas libertades siempre y cuando usted cumpla con los términos de la licencia.
En los siguientes términos:
- Atribución : Debe otorgar el crédito correspondiente , proporcionar un enlace a la licencia e indicar si se realizaron cambios . Puede hacerlo de cualquier manera razonable, pero no de ninguna manera que sugiera que el licenciante lo respalda a usted o a su uso.
- No comercial : no puede utilizar el material con fines comerciales .
- CompartirIgual — Si remezcla, transforma o construye sobre el material, debe distribuir sus contribuciones bajo la misma licencia que el original.
- Sin restricciones adicionales : no puede aplicar términos legales ni medidas tecnológicas que restrinjan legalmente a otros hacer algo que la licencia permite.
