Si una persona sólo puede firmar lo que recomienda el sistema, no está supervisando: está prestando su nombre a una decisión ajena.
La discusión sobre inteligencia artificial en el gobierno suele resolverse con una frase tranquilizadora: “siempre habrá un humano en el circuito”. El problema es que una presencia humana puede ser completamente decorativa. Un servidor público sin tiempo, conocimientos, independencia o facultades para contradecir al sistema no controla la decisión. Apenas certifica que el procedimiento ocurrió.
Esta diferencia importa en asuntos muy concretos: acceso a un programa social, suspensión de una licencia, inspecciones, multas, clasificación de riesgos o rechazo de un trámite. Cuando la resolución afecta materialmente a alguien, la pregunta democrática no es sólo si el algoritmo tuvo una tasa aceptable de aciertos. También debemos saber qué autoridad puede hacerse responsable de las razones aplicadas al caso.
El derecho a recibir una respuesta pública
Sai-Ming Wong propone una respuesta normativa en Office and unowned architecture: public judgment in the age of algorithmic governance. Su tesis es exigente: cuando el Estado toma una determinación gravosa, jurídicamente operativa, razonablemente discutible y prácticamente final, las razones de esa determinación deben ser asumidas por una oficina capaz de responder por ellas.
El autor llama “arquitectura sin dueño” al conjunto de modelos, reglas y flujos de trabajo que produce consecuencias públicas sin que ninguna autoridad institucional adopte realmente sus fundamentos. El sistema puede estar autorizado por una ley y validado técnicamente; aun así, la persona afectada puede quedarse frente a una estructura que actúa sobre ella sin que nadie pueda decir: ésta es nuestra decisión y éstas son las razones que estamos dispuestos a defender.
Cinco condiciones que un municipio debería demostrar
- Autoridad: la persona revisora puede decidir algo distinto de lo recomendado.
- Acceso epistémico: conoce los datos, criterios, límites e incertidumbres relevantes.
- Capacidad práctica: cuenta con tiempo, formación y recursos para examinar el caso.
- Independencia: no es penalizada mediante metas o indicadores por apartarse del sistema.
- Responsabilidad pública: puede explicar y defender la resolución como una decisión institucional.
Esta propuesta no es un resultado empírico. Es un argumento filosófico-institucional inspirado en la teoría kantiana del derecho público. Su utilidad está en convertir una consigna vaga —“que revise una persona”— en preguntas auditables. El propio autor advierte que sus condiciones no son una prueba mecánica ni constituyen una teoría regulatoria completa.
El problema mexicano: firmar sin poder decidir
En los municipios mexicanos el riesgo es mayor por una razón poco tecnológica: la debilidad de las capacidades administrativas. Una plataforma contratada a un proveedor puede incorporar criterios que el personal local no comprende; el contrato puede impedir auditar el modelo; la presión por resolver expedientes puede volver excepcional cualquier revisión; y la autoridad formal puede carecer de información suficiente para apartarse de la recomendación.
Mi inferencia —no un hallazgo del artículo— es que la supervisión humana debe evaluarse como capacidad organizacional. Conviene revisar expedientes reales: cuántas recomendaciones fueron modificadas, quién lo hizo, con qué información, cuánto tiempo tomó y si la decisión produjo alguna consecuencia negativa para el funcionario revisor. Si nadie contradice nunca al sistema, no deberíamos apresurarnos a celebrar su precisión. Tal vez sólo hemos construido una burocracia que aprendió a obedecer a la interfaz.
Este argumento complementa mi texto anterior sobre la necesidad de una autoridad que dé la cara ante las decisiones apoyadas en IA.
Referencia
Wong, S.-M. (2026). Office and unowned architecture: public judgment in the age of algorithmic governance. Ethics and Information Technology, 28, 48. https://doi.org/10.1007/s10676-026-09919-9
Sobre el autor
Dr. Luis Enrique Sánchez Díaz es profesor-investigador de la Facultad de Administración de la Benemérita Universidad Autónoma de Puebla y consultor. Cuenta con dos décadas de experiencia en educación superior. Trabaja en administración pública, gobernanza, metodología de la investigación y pensamiento crítico, con especial interés en el uso de datos e inteligencia artificial para mejorar decisiones sin sustituir el juicio democrático.
Sigamos la conversación
¿La persona que revisa una decisión automatizada en tu institución tiene poder real para cambiarla? Déjame tu respuesta, comparte esta entrada y suscríbete al blog. También puedes seguirme en Facebook, X, Telegram y en el canal de WhatsApp Profesor Luis Enrique.
Descubre más desde Doctor Luis Enrique Sánchez Diaz
Suscríbete y recibe las últimas entradas en tu correo electrónico.