Chile construye las reglas del juego para la inteligencia artificial en el sector público

Mientras gran parte del debate global sobre inteligencia artificial se concentra en especulaciones futuristas o en las capacidades técnicas de los últimos modelos de lenguaje, Chile está haciendo algo distinto: construyendo la infraestructura normativa y práctica para que la IA funcione éticamente dentro del Estado. No se trata de una declaración de principios abstracta, sino de herramientas concretas diseñadas para que funcionarios públicos puedan implementar sistemas de IA sin comprometer derechos fundamentales ni reproducir sesgos históricos. La pregunta ya no es si la IA llegará al sector público latinoamericano, sino cómo lo hará.

Un marco normativo que pasa de la teoría a la práctica

El Ministerio de Ciencia, Tecnología, Conocimiento e Innovación de Chile ha dado un paso significativo al presentar nuevas herramientas que complementan la Política Nacional de Inteligencia Artificial. Estas herramientas no son simples guías de buenas intenciones: incluyen protocolos de evaluación, listas de verificación y marcos de referencia que permiten a las instituciones estatales evaluar riesgos antes de implementar sistemas de IA. El enfoque chileno reconoce una realidad incómoda pero inevitable: la inteligencia artificial ya está siendo utilizada en decisiones que afectan la vida de millones de personas, desde la asignación de recursos públicos hasta la evaluación de solicitudes de servicios sociales.

Lo que distingue este avance es su carácter operativo. Mientras muchos países elaboran estrategias nacionales de IA que permanecen en el nivel declarativo, Chile está desarrollando instrumentos que los funcionarios pueden usar el lunes por la mañana. Estas herramientas buscan responder preguntas concretas: ¿Cómo evaluar si un algoritmo reproduce discriminación de género o étnica? ¿Qué hacer cuando un sistema de IA toma decisiones que afectan derechos sociales? ¿Cómo garantizar transparencia sin comprometer la eficiencia operativa?

El desarrollo de estas herramientas responde también a una presión creciente desde la sociedad civil y organizaciones de derechos digitales en América Latina, que han documentado casos problemáticos de uso de tecnología en el sector público. Desde sistemas de reconocimiento facial con tasas de error desproporcionadas en poblaciones indígenas hasta algoritmos de asignación de beneficios sociales que perpetúan desigualdades históricas, la región ha aprendido que la adopción tecnológica sin salvaguardas éticas puede amplificar injusticias existentes.

Ética aplicada: de principios abstractos a decisiones cotidianas

El componente ético de las nuevas herramientas chilenas se centra en siete principios fundamentales: transparencia, equidad, responsabilidad, privacidad, seguridad, beneficio social y supervisión humana. Pero el verdadero valor está en cómo estos principios se traducen en acciones verificables. Por ejemplo, el principio de equidad no se queda en la declaración de que los sistemas deben ser justos, sino que establece procedimientos para identificar y mitigar sesgos en conjuntos de datos, evaluar impactos diferenciados en distintos grupos poblacionales y establecer mecanismos de apelación cuando una decisión algorítmica perjudica a un ciudadano.

La transparencia, otro pilar fundamental, se aborda desde múltiples ángulos. Las herramientas incluyen requisitos de documentación sobre cómo funcionan los sistemas de IA utilizados por el Estado, qué datos procesan y bajo qué lógica toman decisiones. Esto es particularmente relevante en un contexto latinoamericano donde la desconfianza en las instituciones públicas es históricamente alta. Un ciudadano que comprende cómo un algoritmo evaluó su solicitud de beneficio social tiene más probabilidades de confiar en el sistema, incluso si la decisión no fue favorable.

La implementación ética de IA en el sector público no es un lujo tecnológico sino una condición necesaria para preservar la confianza ciudadana en las instituciones democráticas en la era algorítmica.

El enfoque chileno también reconoce que la supervisión humana no puede ser un mero formalismo. Las herramientas establecen que debe existir capacidad real de intervención humana en decisiones críticas, lo que implica formar funcionarios que comprendan tanto las capacidades como las limitaciones de los sistemas de IA. Esto representa un desafío de capacitación considerable pero necesario: no se puede supervisar efectivamente lo que no se comprende.

Posicionamiento regional y perspectiva comparada

El avance chileno ocurre en un momento en que América Latina busca definir su propia aproximación a la gobernanza de la inteligencia artificial. Mientras la Unión Europea ha optado por regulación comprehensiva con su AI Act, y Estados Unidos mantiene un enfoque más fragmentado y sectorial, los países latinoamericanos enfrentan el desafío adicional de implementar marcos normativos con recursos limitados y brechas significativas de capacidad técnica en el sector público.

En este contexto, el modelo chileno resulta particularmente relevante porque no intenta copiar marcos regulatorios diseñados para economías con ecosistemas tecnológicos más maduros. En cambio, reconoce las realidades específicas de la región: Estados con capacidad técnica heterogénea, sociedades con profundas desigualdades que la tecnología puede exacerbar, y la necesidad de aprovechar la IA para mejorar servicios públicos sin comprometer derechos fundamentales. Brasil ha desarrollado su propia estrategia nacional de IA, Argentina trabaja en marcos regulatorios específicos, y Uruguay ha sido pionero en temas de datos abiertos y gobierno digital, pero el enfoque chileno destaca por su énfasis en herramientas operativas inmediatamente aplicables.

La coordinación regional también emerge como factor crítico. Los desafíos que plantea la IA no respetan fronteras nacionales, y la fragmentación regulatoria puede crear incentivos perversos donde empresas tecnológicas operen desde jurisdicciones con menor supervisión. Iniciativas como el desarrollo de estándares comunes o el intercambio de mejores prácticas entre países latinoamericanos podrían fortalecer la capacidad colectiva de la región para gobernar estas tecnologías de manera efectiva.

Desafíos de implementación y resistencias previsibles

Diseñar herramientas éticas para IA en el sector público es complejo, pero implementarlas efectivamente lo es aún más. Chile enfrentará varios obstáculos en los próximos meses y años. El primero es la resistencia burocrática: funcionarios públicos con cargas de trabajo ya elevadas pueden percibir estos protocolos como trámites adicionales que ralentizan procesos. Sin incentivos claros y consecuencias por incumplimiento, incluso los mejores marcos normativos pueden convertirse en letra muerta.

El segundo desafío es la brecha de capacidades. Evaluar si un sistema de IA cumple con principios éticos requiere conocimientos técnicos que muchas instituciones públicas simplemente no poseen. Esto crea dependencia de proveedores externos, quienes pueden tener incentivos para minimizar problemas o complejidades. La formación de cuadros técnicos dentro del Estado que puedan evaluar críticamente estas tecnologías es una inversión de largo plazo que Chile deberá sostener.

El tercer obstáculo es la tensión entre transparencia y propiedad intelectual. Muchos sistemas de IA utilizados por gobiernos son desarrollados por empresas privadas que consideran sus algoritmos secretos comerciales. ¿Cómo garantizar transparencia sin desincentivar la innovación privada? ¿Es posible auditar efectivamente sistemas cuyo código fuente permanece cerrado? Estas preguntas no tienen respuestas sencillas y requerirán negociaciones caso por caso entre el sector público y los proveedores tecnológicos.

Contexto clave

Sesgos algorítmicos y equidad: Los sistemas de inteligencia artificial aprenden de datos históricos, y si esos datos reflejan discriminación pasada, el algoritmo puede perpetuarla o amplificarla. Por ejemplo, si un sistema de IA se entrena con datos de contrataciones públicas donde históricamente las mujeres han estado subrepresentadas en cargos técnicos, puede aprender a asociar competencia técnica con género masculino y discriminar candidatas calificadas. Mitigar estos sesgos requiere tanto intervención técnica (balanceo de datos, ajustes algorítmicos) como supervisión humana que comprenda el contexto social.

Transparencia algorítmica versus caja negra: Muchos sistemas de IA modernos, particularmente los basados en aprendizaje profundo, son "cajas negras": toman decisiones efectivas pero sus procesos internos son difíciles de interpretar incluso para sus creadores. Esto genera un dilema para el sector público: ¿cómo justificar ante un ciudadano una decisión que afecta sus derechos si ni siquiera los funcionarios comprenden completamente cómo el sistema llegó a esa conclusión? Las herramientas de "IA explicable" buscan hacer más interpretables estos procesos, pero siguen siendo un área de investigación activa con limitaciones importantes.

Supervisión humana significativa: No basta con que un humano pulse un botón de aprobación después de que un algoritmo tome una decisión. La supervisión significativa implica que la persona tenga capacidad real de comprender la recomendación algorítmica, evaluarla críticamente, y modificarla o rechazarla cuando sea necesario. Esto requiere interfaces diseñadas para facilitar comprensión, tiempo suficiente para evaluación (no procesos automatizados de facto), y una cultura institucional que valore el juicio humano por encima de la eficiencia algorítmica cuando están en juego derechos fundamentales.

Para profundizar

• Casos de uso de IA en servicios públicos latinoamericanos — ¿Qué sistemas de inteligencia artificial están ya operando en hospitales públicos, sistemas educativos y programas sociales de la región? Documentar estos casos, sus resultados y problemas enfrentados proporcionaría evidencia empírica crucial para refinar marcos normativos.
• Capacitación técnica en el sector público — ¿Qué modelos de formación están funcionando para crear cuadros de funcionarios capaces de supervisar sistemas de IA? La experiencia de países con mayor madurez en gobierno digital podría ofrecer lecciones valiosas, pero adaptadas a las realidades presupuestarias y de recursos humanos latinoamericanas.
• Participación ciudadana en gobernanza algorítmica — ¿Cómo pueden los ciudadanos comunes, no solo expertos técnicos, participar en decisiones sobre qué sistemas de IA utiliza el Estado y bajo qué condiciones? Explorar mecanismos de democracia deliberativa aplicados a política tecnológica podría fortalecer la legitimidad y efectividad de estos marcos normativos.