Chihuahua, Chih.- Durante décadas, los derechos humanos enfrentaron amenazas visibles: censura, detenciones arbitrarias, abuso de poder. Hoy enfrentan una distinta: silenciosa, técnica y difícil de identificar: la inteligencia artificial.
No porque la tecnología sea peligrosa en sí misma, sino porque su uso sin reglas claras puede redefinir la relación entre el Estado y la persona. La discusión ya no es si debemos utilizar inteligencia artificial en instituciones públicas. La pregunta es cómo hacerlo sin debilitar garantías fundamentales.
Estamos entrando en la era del debido proceso digital.
Y todavía no hemos construido todas sus reglas.
La inteligencia artificial ya interviene, directa o indirectamente, en decisiones públicas relevantes: priorización de asuntos, análisis predictivo delictivo, asignación de apoyos sociales, vigilancia urbana o selección de personal. El problema no es su existencia. Es su opacidad.
Cuando una decisión automatizada afecta derechos, surge una pregunta central del constitucionalismo moderno: ¿quién responde por la decisión del algoritmo?
Si nadie puede explicarla, nadie puede impugnarla.
Y si nadie puede impugnarla, el Estado de derecho se debilita.
Organismos internacionales han advertido este riesgo con claridad. La Recomendación sobre la Ética de la Inteligencia Artificial establece que los Estados deben garantizar supervisión humana significativa, transparencia y proporcionalidad en el uso de estos sistemas (UNESCO, 2021). En el mismo sentido, los Principios de Inteligencia Artificial de la OCDE subrayan que toda IA pública debe ser explicable, responsable y centrada en las personas (OCDE, 2019).
Esto no significa que la inteligencia artificial sea incompatible con los derechos humanos. Al contrario.
Bien utilizada, puede ampliar el acceso a la justicia, reducir rezagos institucionales y mejorar decisiones públicas complejas mediante análisis de evidencia. La transformación digital del sistema de justicia no es opcional. Es inevitable.
Pero debe ser democrática.
La experiencia europea ofrece una señal importante. El Reglamento de Inteligencia Artificial de la Unión Europea clasifica los sistemas aplicados a la justicia como de “alto riesgo”, lo que implica controles reforzados precisamente por su impacto estructural en derechos fundamentales (Parlamento Europeo y Consejo de la Unión Europea, 2024).
México aún no cuenta con una ley integral en esta materia.
Ese es el verdadero desafío.
No podemos permitir que la tecnología avance más rápido que las garantías y derechos.
Históricamente, los tribunales han protegido a las personas frente al poder del Estado. Hoy deberán protegerlas también frente al poder del algoritmo. Porque el reto no es frenar la inteligencia artificial.
El reto es constitucionalizarla.
Las referencias se pueden poner más pequeñas
Referencias
OCDE. (2019). OECD Principles on Artificial Intelligence. Organisation for Economic Co-operation and Development. https://oecd.ai/en/ai-principles
Parlamento Europeo y Consejo de la Unión Europea. (2024). Artificial Intelligence Act. Unión Europea.
UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. https://unesdoc.unesco.org/ark:/48223/pf0000381137
Pie de página
Paul Daniel Moriel Quiralte es estudioso y promotor del uso ético de la Inteligencia Artificial aplicada al sector jurídico y gubernamental, área en la que ha desarrollado e impartido capacitaciones, cursos y conferencias para instituciones públicas, profesionales del Derecho y equipos directivos.