IA y poder público
Escenarios de inteligencia artificial en el Estado — productividad, sesgo y accountability
La IA en el sector público amplifica lo que ya existe: capacidad o incapacidad, sesgo o equidad, transparencia o opacidad. Tratarla como destino inevitable o como panacea es el mismo error en dos direcciones.
Marco
Usos frecuentes:
- Clasificación — riesgo crediticio social, fraude fiscal, priorización de inspecciones.
- Generación — borradores de normas, atención ciudadana, traducción.
- Predicción — demanda hospitalaria, mantenimiento, seguridad (altamente controvertido).
Cada uso exige: dato de entrenamiento, métrica de error, proceso de apelación y responsable humano nombrado.
Ejemplos multi-región
| Dominio | Experiencias (ilustrativas) | Controversia |
|---|---|---|
| Bienestar / scoring social | Debates en China y sistemas de riesgo en OCDE | Falsos positivos que cortan derechos |
| Justicia / predicción policial | Varios países; muchos rollbacks | Sesgo racial/territorial heredado de datos |
| Salud | Triage y lectura de imágenes | Responsabilidad médica vs. vendor |
| Tributación | Detección de evasión | Auditoría algorítmica sin explicación |
| Defensa / autonomía | Global | Escalada y control humano significativo |
Escenarios
- Copiloto auditado: IA redacta y prioriza; humanos deciden con logs públicos; productividad sube con accountability.
- Automatización opaca: denegaciones sin recurso efectivo; legitimidad cae aunque la «eficiencia» suba.
- Carrera geopolítica: Estados compiten por modelos y chips; la política doméstica queda subordinada a seguridad nacional.
- Dependencia de plataformas: el Estado alquila inteligencia a pocos vendors; soberanía de datos erosionada.
La intensidad de I+D contextualiza capacidad innovadora agregada; no dice si el algoritmo del ministerio es justo.
Límites
- Benchmarks de modelos ≠ desempeño en poblaciones locales.
- Regulación (UE AI Act y otras) no se traslada automática al Sur Global.
- «IA ética» de brochure no sustituye pruebas adversariales.
- Efectos de segundo orden (desempleo administrativo, vigilancia) son inciertos.