Serie: Estado, ciudadanía e inteligencia artificial · Entrega 4 de 5 · Fuentes consultadas hasta el 13 de octubre de 2026.
Un registro puede decir que una persona no solicitó un servicio. Ese dato no explica si desconocía su existencia, si la plataforma falló o si el horario de atención le impedía acudir. Cuando una institución interpreta la ausencia de una solicitud como ausencia de necesidad, transforma una limitación del registro en una conclusión sobre la población.
La inteligencia artificial puede ampliar ese error: encontrar patrones, producir explicaciones plausibles y repetirlas a gran escala. La calidad de una política apoyada en IA depende de que sus datos conserven contexto, procedencia y posibilidades de corrección. Un repositorio enorme resulta insuficiente si nadie puede explicar qué representa cada variable y quién quedó fuera de su construcción.
Del dato a una afirmación que puede defenderse
Conviene distinguir cuatro elementos. El dato registra algo bajo ciertas reglas. La información lo organiza para responder una pregunta. La evidencia permite sostener una afirmación dentro de límites conocidos. La decisión incorpora objetivos, recursos, normas y consecuencias. Una IA puede ayudar en varios pasos, pero no convierte automáticamente el primero en el último.
Consideremos un ejemplo hipotético de un ayuntamiento mexicano. Un tablero registra menos reportes de baches en una localidad. El equipo podría concluir que necesita menos mantenimiento. Sin embargo, antes tendría que comprobar cobertura del canal, duplicados, atención telefónica, fechas y condiciones de acceso. La comparación solo sería defendible si las oportunidades de reportar y los criterios de registro fueran suficientemente comparables.
Este problema afecta tanto a tablas como a documentos. Una minuta puede contener una propuesta sin aprobar; una presentación puede resumir una regla con excepciones; un oficio puede haber sido sustituido. Si un asistente los recupera sin distinguir su autoridad y vigencia, ofrece una respuesta cuya apariencia de precisión oculta una mezcla de estados documentales.
La base material sigue siendo desigual
El Digital Government Outlook 2026 reporta que 94% de los países de la OCDE evaluados tenía estrategias de datos, frente a 64% con estándares formales para evaluar su calidad. Sus indicadores de 2025 cubren principalmente 2023–2024: muestran una brecha entre estrategia y operación, sin describir por sí solos toda la situación de octubre de 2026.
También hace falta distribuir responsabilidades. El área técnica administra sistemas; la oficina que produce el dato conoce su significado; el archivo conserva su historia; las áreas jurídicas y de protección de datos delimitan usos. Una persona responsable debe poder reunir estas perspectivas y resolver discrepancias. Dejar la tarea sin dueño favorece correcciones incompatibles entre dependencias.
Procedencia: saber de dónde viene cada afirmación
Una auditoría publicada en Nature Machine Intelligence en agosto de 2024 rastreó más de 1,800 conjuntos de datos textuales y documentó problemas de licencias y atribución. Su objeto fueron materiales usados en IA, no padrones gubernamentales. La investigación aporta una advertencia transferible: recibir un conjunto de datos con una etiqueta no demuestra que se conozcan sus fuentes, permisos y transformaciones.
La procedencia debería permitir responder: quién produjo el registro, cuándo ocurrió el hecho, cuándo se capturó, qué correcciones recibió y qué uso está permitido. En datos administrativos, distinguir fecha del hecho y fecha de captura evita tratar una actualización tardía como un acontecimiento nuevo. Conservar versiones permite reconstruir lo que la institución sabía al decidir.
El trabajo de Chapman y colaboradores, publicado en ACM Transactions on Database Systems en 2024, propone capturar procedencia detallada de las transformaciones que preparan datos para análisis. Su alcance es esa preparación, no una explicación completa de cada predicción. Aplicado como criterio de diseño, ayuda a exigir que limpiar, unir o descartar registros deje una huella que pueda inspeccionarse.
Por ejemplo, un proceso que fusiona personas con nombres similares debería guardar la regla utilizada, los casos dudosos y las decisiones de revisión. Una tabla final perfectamente ordenada puede ocultar que dos personas distintas quedaron unidas. La calidad visual de una hoja de cálculo no certifica la calidad de sus identidades.
Integrar requiere compartir significado
La interoperabilidad técnica permite intercambiar archivos o consultar sistemas. La interoperabilidad semántica permite interpretar de la misma forma lo intercambiado. Dos oficinas pueden usar la palabra “beneficiario” para designar, respectivamente, a una persona aprobada y a una persona que recibió un pago. Sumarlas produciría una cifra engañosa aunque la conexión funcionara sin errores.
Propongo acompañar cada conjunto prioritario con un diccionario de variables, reglas de inclusión, unidad de análisis, cobertura territorial, periodicidad y responsable. Además, conviene separar valor cero, dato desconocido y dato no aplicable. Rellenarlos de manera automática cambia su significado y puede fabricar una certeza inexistente.
Los catálogos y las relaciones explícitas entre conceptos pueden mejorar la búsqueda documental. En sistemas de IA, esto permitiría recuperar conjuntamente una regla, su modificación y la institución competente. Ese beneficio debe comprobarse con preguntas locales: una estructura de relaciones bien diseñada ayuda a organizar conocimiento, pero también puede conservar errores si carece de mantenimiento.
Privacidad y reutilización con límites comprobables
La pregunta inicial debería ser qué información necesita un servicio y para qué. Reunir todos los datos disponibles facilita usos posteriores difíciles de anticipar. En una consulta informativa, quizá baste con la convocatoria y el municipio; pedir un expediente personal completo ampliaría el riesgo sin mejorar necesariamente la respuesta.
Las directrices NIST SP 800-226, publicadas en marzo de 2025, explican cómo evaluar garantías de privacidad diferencial: un marco matemático que cuantifica pérdida de privacidad y cuyas implementaciones requieren examinar varios componentes. Es una herramienta para determinados análisis y publicaciones estadísticas. No sustituye controles de acceso, finalidades justificadas ni evaluación del servicio completo.
Para una contratación pública, propongo exigir respuestas verificables sobre retención, subcontratación, eliminación, uso para entrenamiento y exportación de datos al terminar el contrato. También deben probarse los permisos: una persona autorizada para consultar su expediente no tendría que recibir fragmentos de otro a través del buscador de IA. La prueba debe incluir intentos deliberados de cruzar esos límites.
La información sintética necesita una etiqueta duradera
La IA también produce datos: resúmenes, categorías, traducciones y respuestas que otras áreas podrían reutilizar. Conviene mantener separados el documento original, su extracción automática y la interpretación generada. Una etiqueta de procedencia debe acompañarlos durante la reutilización, especialmente cuando un borrador puede confundirse con una resolución.
Shumailov y colaboradores mostraron en Nature en 2024 que el entrenamiento recursivo e indiscriminado con contenido generado puede degradar modelos y hacer perder partes de la distribución original. El estudio no demuestra que cualquier dato sintético sea perjudicial. Su advertencia debe leerse según las condiciones analizadas; el artículo incorporó una corrección de notación en marzo de 2025.
En archivos públicos aparece un riesgo adicional, planteado aquí como inferencia: si un resumen inventado se incorpora al repositorio como fuente y otro asistente lo cita, la repetición puede adquirir apariencia documental. La prevención requiere conservar originales, señalar contenido generado y comprobar las afirmaciones relevantes contra registros autorizados.
Un futuro distópico hipotético: la población que desaparece del registro
Escenario hipotético. En 2032, una administración distribuye recursos según un mapa de necesidades construido casi exclusivamente con interacciones digitales. Las comunidades con peor conectividad producen menos registros. El modelo interpreta ese silencio como baja demanda y reduce su presupuesto. La menor presencia de servicios genera todavía menos datos y refuerza la decisión inicial.
Las alertas serían una caída de cobertura sin explicación demográfica, territorios permanentemente vacíos, diferencias crecientes entre encuestas y registros, y métricas publicadas sin denominador. Un promedio nacional favorable podría coexistir con exclusiones persistentes.
Para prevenirlo, propongo contrastar registros con levantamientos independientes, documentar quién puede quedar fuera y financiar canales de captura accesibles. Los mapas deberían mostrar vacíos e incertidumbre. Antes de reasignar recursos, un equipo tendría que revisar las discrepancias con conocimiento territorial y permitir que las comunidades corrijan representaciones equivocadas.
El siguiente avance será poder verificar
Si crecen los agentes públicos conectados, es previsible que aumente la demanda de catálogos legibles por máquinas, permisos precisos y registros de procedencia. Su utilidad dependerá de inversión sostenida y de la capacidad de corregir información entre instituciones. Para México y América Latina, construir esa capacidad implica reconocer diversidad lingüística, condiciones territoriales y conocimiento de quienes producen y utilizan cada registro.
Un buen objetivo para comenzar es elegir un servicio y comprobar si puede reconstruirse una decisión desde sus fuentes. Si falta un documento, se desconoce una transformación o nadie sabe qué significa una variable, ahí existe una tarea concreta de mejora.
Fuentes para profundizar
- OCDE (2026), Digital Government Outlook. Informe comparado; distinguir publicación e intervalo observado.
- Longpre y colaboradores (2024), A large-scale audit of dataset licensing and attribution in AI. Investigación revisada por pares sobre procedencia y licencias.
- Chapman y colaboradores (2024), Supporting Better Insights of Data Science Pipelines with Fine-grained Provenance. Investigación revisada por pares sobre trazabilidad de transformaciones.
- NIST (2025), Guidelines for Evaluating Differential Privacy Guarantees. Guía técnica oficial sobre garantías y dificultades de implementación.
- Shumailov y colaboradores (2024), AI models collapse when trained on recursively generated data. Investigación revisada por pares; consultar también su corrección de 2025.
Recorre la serie: Estado, ciudadanía e inteligencia artificial
- Fundamentos de la Transformación Digital del Estado
- Ciudadanía Digital y Nuevos Servicios Públicos
- Inteligencia Artificial en el Sector Público
- El rol de los datos y la información en el sector público en tiempos de IA (esta entrada)
- Gobernanza de la IA. Marcos normativos y orden global de la IA.
Descubre más desde Doctor Luis Enrique Sánchez Diaz
Suscríbete y recibe las últimas entradas en tu correo electrónico.