Inteligencia Artificial en el Sector Público

Serie: Estado, ciudadanía e inteligencia artificial · Entrega 3 de 5 · Fuentes consultadas hasta el 13 de octubre de 2026.

Una persona solicita un apoyo público y recibe una respuesta impecablemente redactada que cita un requisito inexistente. El texto parece profesional; la consecuencia puede ser perder una oportunidad. Este ejemplo hipotético resume el desafío de incorporar inteligencia artificial al gobierno: su utilidad depende de que las personas puedan comprobar, cuestionar y corregir lo que produce.

La tesis de esta entrada es sencilla: la IA pública merece ampliarse cuando mejora un servicio verificable y la institución conserva capacidad efectiva de responder por sus errores. La velocidad de redacción y el número de licencias adquiridas dicen poco sobre ese resultado. Importan los trámites resueltos correctamente, las cargas que desaparecen y la distribución de los beneficios.

Qué sabemos y qué todavía debe probarse

El informe Governing with Artificial Intelligence de la OCDE, publicado en septiembre de 2025, analizó 200 casos de uso. Documenta aplicaciones en servicios, decisiones y detección de anomalías, junto con obstáculos de capacidades, datos e infraestructura. Ese inventario permite identificar prácticas; por su diseño, no demuestra que cualquier compra de IA produzca ahorros ni que sus resultados puedan trasladarse automáticamente a un municipio mexicano.

Conviene separar tareas. Un clasificador puede ordenar documentos; un modelo predictivo puede estimar demanda; un modelo generativo puede elaborar un borrador; un agente puede encadenar consultas y acciones. Cada aplicación necesita evidencia propia. Confundirlas lleva a comprar sistemas con expectativas imprecisas y a evaluar un servicio completo con la puntuación de un modelo en una prueba general.

También importa distinguir una demostración de una operación estable. Resolver veinte ejemplos seleccionados por un proveedor deja preguntas abiertas: qué sucede con documentos ilegibles, solicitudes contradictorias, personas que hablan otra lengua o cambios recientes en las reglas. Es precisamente ahí donde una institución debe reconocer la incertidumbre y ofrecer atención competente.

Respuestas apoyadas en documentos: una oportunidad concreta

La generación aumentada por recuperación, conocida como RAG, incorpora documentos localizados en un repositorio antes de producir una respuesta. En una dependencia podría servir para consultar manuales, convocatorias y disposiciones vigentes. La condición decisiva es que cada afirmación relevante pueda rastrearse hasta el documento correcto, su fecha y su ámbito de aplicación.

Una investigación publicada en Nature el 4 de febrero de 2026, sobre OpenScholar, muestra avances en síntesis científica mediante recuperación especializada y respuestas con citas. Su evaluación incluyó 2,967 preguntas formuladas por expertos. Los resultados respaldan estudiar sistemas especializados y verificables, pero no acreditan desempeño en expedientes administrativos mexicanos: cambiaron el dominio, la población y las consecuencias del error. Tampoco prueban que añadir un buscador elimine las alucinaciones.

Para una prueba inicial, una universidad pública podría limitar el asistente a orientar sobre una convocatoria determinada. El sistema mostraría los pasajes que sustentan cada respuesta y derivaría las excepciones a la oficina responsable. Antes de abrirlo a estudiantes, el equipo comprobaría preguntas ambiguas, versiones derogadas y supuestos que la convocatoria no contempla. Es una propuesta de diseño, no un caso de implementación reportado.

La novedad de 2026: agentes con capacidad de actuar

El 25 de septiembre de 2026, integrantes del grupo de trabajo sobre IA agéntica en gobiernos publicaron en OECD.AI un análisis sobre sistemas que ejecutan acciones. El texto describe posibilidades y esfuerzos iniciales; reconoce que su valor público todavía requiere demostración. Es un análisis de sus autores, no un estudio experimental ni una posición oficial de todos los miembros de la OCDE.

La diferencia operativa es relevante: una respuesta equivocada puede inducir una mala decisión; un agente conectado puede además modificar un registro. Por eso conviene definir permisos por operación. Consultar el estado de un expediente, preparar una actualización y aprobar esa actualización deben tener autorizaciones distintas. Una instrucción escrita dentro de un documento recibido nunca debería ampliar esos permisos.

El AI Playbook del gobierno británico, de febrero de 2025, advierte que los sistemas RAG también son vulnerables a instrucciones maliciosas insertadas en contenidos recuperados. Recomienda atender controles de acceso y seguridad. La aplicación práctica es clara: conectar una IA a más información aumenta las obligaciones de protección, incluso cuando el acceso parece facilitar el trabajo cotidiano.

Evaluar el servicio, incluidos los casos difíciles

La evaluación necesita un punto de comparación: cómo funciona hoy el trámite y qué mejora se busca. Propongo publicar un protocolo antes del piloto, con indicadores que permitan detectar tanto beneficios como daños:

• Exactitud útil: respuestas respaldadas por fuentes vigentes y requisitos correctamente identificados, con revisión independiente del proveedor.
• Resultado del trámite: solicitudes completadas, devoluciones y abandonos, incluyendo el tiempo que las personas dedican a corregir errores.
• Equidad: desempeño por lengua, necesidades de accesibilidad y condiciones pertinentes al servicio, sin recolectar información sensible innecesaria.
• Capacidad de reparación: tiempo para localizar un fallo, detener su propagación y corregir los expedientes afectados.
• Costo completo: contratación, integración, supervisión, energía cuando pueda medirse, mantenimiento y atención de reclamaciones.

Hay una razón científica para evitar pruebas superficiales de equidad. Bai y colaboradores, en PNAS en 2025, estudiaron ocho modelos y encontraron asociaciones estereotipadas y diferencias en decisiones experimentales que otras pruebas no hacían visibles. El estudio no midió dependencias mexicanas ni todos los modelos actuales. Sí muestra que una declaración de neutralidad o un resultado favorable en un examen sencillo no bastan para acreditar trato justo.

La revisión humana también debe evaluarse. Una persona que dispone de segundos para aprobar cientos de propuestas difícilmente constituye un control significativo. El piloto tendría que registrar desacuerdos, correcciones y carga de trabajo, además de asegurar que quien revisa puede consultar la evidencia, rechazar la sugerencia y detener el proceso sin castigo por reducir la velocidad.

Un futuro distópico hipotético: la administración sin interlocutor

Escenario hipotético, no descripción de un gobierno actual. En 2031, una red de agentes tramita prestaciones y aplica criterios desactualizados. Las oficinas redujeron su personal especializado después del primer ahorro anunciado. Cuando aparecen exclusiones, otro asistente responde a las quejas utilizando los mismos documentos defectuosos. El indicador de eficiencia mejora porque los casos se cierran rápido; las personas quedan atrapadas entre sistemas que se confirman mutuamente.

Las señales de alerta serían visibles antes del colapso: casi ninguna propuesta automática es modificada; aumentan las reclamaciones repetidas; desaparecen los canales presenciales; los contratos impiden revisar registros; nadie puede reconstruir qué versión intervino en una decisión. La institución confunde ausencia de intervención con ausencia de error.

Para prevenirlo propongo conservar personal con conocimiento del procedimiento, crear una vía de revisión que use evidencia independiente, ensayar la suspensión del sistema y garantizar una alternativa operativa. Las decisiones que afectan derechos deben quedar ligadas a una autoridad identificable y a procedimientos de impugnación aplicables. El presupuesto de reparación tiene que existir desde el inicio.

Qué tendencias futuras merece la pena vigilar

Es razonable esperar más asistentes especializados y agentes capaces de preparar secuencias de trámites si mejoran las interfaces, la seguridad y la evaluación. También podrían ganar espacio modelos pequeños o ejecutados en infraestructura controlada por la institución cuando su desempeño, costo y protección de datos lo justifiquen. Estas son proyecciones condicionadas; un modelo local no garantiza por sí mismo exactitud ni confidencialidad.

Para México y América Latina, una agenda útil sería producir pruebas compartidas en español y en las lenguas pertinentes a cada servicio, documentar fallos y sostener equipos públicos capaces de comparar proveedores. Las universidades pueden colaborar diseñando evaluaciones y formando personal, con resguardo de los expedientes. El criterio de avance debería ser reconocible para cualquier ciudadano: obtener una respuesta fundada y contar con alguien capaz de corregirla.

Fuentes para profundizar

• OCDE (2025), Governing with Artificial Intelligence. Informe comparado de casos y condiciones institucionales; no es una estimación causal de ahorros.
• Asai y colaboradores (2026), Synthesizing scientific literature with retrieval-augmented language models. Investigación revisada por pares sobre OpenScholar y evaluación de síntesis científica.
• Bai y colaboradores (2025), Explicitly unbiased large language models still form biased associations. Investigación revisada por pares sobre pruebas de sesgo.
• Grupo de trabajo sobre IA agéntica (2026), Governing with agentic AI. Análisis firmado sobre posibilidades y controles de la delegación de acciones.
• Government Digital Service (2025), AI Playbook. Guía práctica oficial sobre selección, uso y seguridad de IA gubernamental.

Recorre la serie: Estado, ciudadanía e inteligencia artificial

1. Fundamentos de la Transformación Digital del Estado
2. Ciudadanía Digital y Nuevos Servicios Públicos
3. Inteligencia Artificial en el Sector Público (esta entrada)
4. El rol de los datos y la información en el sector público en tiempos de IA
5. Gobernanza de la IA. Marcos normativos y orden global de la IA.