La confianza merece respaldo en reglas comprensibles, responsabilidades identificables y decisiones que puedan revisarse.
Imagen de portada: fotografía conceptual generada con IA.
Si una dependencia utiliza inteligencia artificial para orientar una decisión que afecta a una persona, alguien debe poder explicar por qué ese sistema participa en el procedimiento. La precisión del cálculo es una parte del problema. También importa quién autorizó su uso, qué límites estableció y qué ocurre cuando la persona afectada discrepa.
Mi punto de partida es que incorporar IA al gobierno obliga a hacer más visible la responsabilidad institucional. Dejar al usuario frente a una pantalla que repite una respuesta puede volver imposible reconocer a la autoridad que debe escuchar el caso. Esa distancia merece atención aunque la herramienta funcione conforme a su diseño.
Qué entiende el artículo por legitimidad
Gilad Abiri publicó Regulating for AI Legitimacy el 23 de septiembre de 2026 en Cambridge Forum on AI: Law and Governance. Su análisis jurídico y teórico adopta una concepción sociológica: la legitimidad se refiere al reconocimiento de una autoridad como justificada. Propone integración en instituciones reconocidas, familiaridad de las reglas para sus destinatarios y posibilidades creíbles de impugnación. Son principios orientadores; el artículo no prueba empíricamente que aplicarlos produzca justicia ni confianza en cualquier contexto. Consultar el estudio.
La confianza también debe poder examinarse
Mi reserva crítica se refiere a la distancia entre reconocer una autoridad y tener buenas razones para reconocerla. Una persona podría aceptar una decisión porque comprende el procedimiento. También podría hacerlo porque desconoce alternativas o porque cree, equivocadamente, que la máquina carece de errores. Una encuesta de confianza no distinguiría necesariamente esas situaciones.
De ahí mi propuesta de evaluar por separado la aceptación, el conocimiento del procedimiento y la calidad de las razones que ofrece la institución. Un resultado favorable en una dimensión no resuelve las demás. Esto importa para evitar que la gestión de la confianza se reduzca a diseñar mensajes persuasivos.
Una campaña puede explicar para qué sirve una herramienta. Sin embargo, si presenta sus capacidades sin dar a conocer sus límites, la aceptación obtenida descansaría en información incompleta. La comunicación pública debería permitir que alguien formule una objeción mejor informada, incluso cuando esa objeción incomode a quienes impulsaron el proyecto.
La explicación que necesita una persona
Imaginemos una plataforma municipal que recomienda rechazar un apoyo porque identifica una inconsistencia en el domicilio. Ante ese caso hipotético, una explicación útil tendría que señalar qué información produjo el problema y cómo puede corregirse. Entregar una descripción general del algoritmo dejaría sin resolver la dificultad concreta.
También sería necesario conservar una diferencia entre orientar al solicitante y resolver su inconformidad. Si el mismo asistente vuelve a generar una respuesta similar, puede parecer que hubo revisión aunque nadie haya examinado nueva evidencia. El diseño debería permitir reconocer cuándo se abrió un expediente distinto y quién tiene atribuciones para resolverlo.
Propongo probar esa explicación con personas que no participaron en el desarrollo. Les pediría identificar la causa del rechazo, el siguiente paso y el plazo para actuar. Si no pueden hacerlo, el texto requiere cambios. Esta sería una evaluación de comprensión, con criterios observables, que podría complementar las pruebas técnicas.
La responsabilidad debe sobrevivir a un cambio de sistema
Otro escenario permite examinar la solidez institucional: qué sucedería si el proveedor dejara de prestar el servicio. Una dependencia debería conservar los registros necesarios para reconstruir decisiones anteriores y atender inconformidades. Consideraría esa capacidad parte de la evaluación de continuidad del proyecto, desde su contratación.
Para investigar legitimidad en gobiernos locales, compararía lo que las personas creen que pueden hacer con las opciones que efectivamente ofrece el procedimiento. Una encuesta podría captar percepciones, mientras que la revisión de casos permitiría examinar la respuesta institucional. Esa combinación ayudaría a detectar confianza sin conocimiento o desconfianza pese a la existencia de garantías.
El propósito de esta investigación sería localizar dónde se rompe la relación entre explicación y actuación. Si la dependencia promete una revisión y no responde, el problema tiene un punto concreto. Si responde pero sus razones son incomprensibles, la mejora requiere otro trabajo.
La autoridad pública debería poder sostener una conversación documentada sobre sus decisiones, incluyendo las que tomó con apoyo de IA. Cuando la tecnología entra en el procedimiento, esa responsabilidad necesita un rostro institucional reconocible y una respuesta que pueda ser examinada.
Referencia
Abiri, G. (2026). Regulating for AI legitimacy. Cambridge Forum on AI: Law and Governance, 2, e17. Leer la publicación original.
Continúa la lectura de esta serie: Los documentos sobre inteligencia artificial deben demostrar qué protegen.
Sobre el autor
Dr. Luis Enrique Sánchez Díaz es profesor e investigador de la Facultad de Administración de la Benemérita Universidad Autónoma de Puebla y consultor de negocios. Cuenta con dos décadas de experiencia en educación superior. Sus áreas de trabajo incluyen administración pública, metodología de la investigación y pensamiento crítico, con interés en las aplicaciones de la inteligencia artificial a la toma de decisiones.
Sigamos la conversación
¿Qué explicación y qué posibilidad de revisión necesitarías para considerar legítima una decisión pública apoyada en IA?
Comparte tu opinión y sigue la conversación en X (Twitter), @luisenriquesan, y en mi fan page de Facebook Luis Enrique Sánchez Díaz. Comparte esta entrada con quienes investigan o toman decisiones en el sector público.