Chile ante el espejo regulatorio de la IA: ¿modelo para la región o una oportunidad perdida?

En un edificio del centro de Santiago, legisladores chilenos debaten algo que ninguna constitución del siglo XX contempló: cómo regular sistemas capaces de tomar decisiones que afectan vidas humanas sin intervención directa de personas. La inteligencia artificial ya no es ciencia ficción en Chile. Está en los algoritmos que aprueban o rechazan créditos, en sistemas de videovigilancia urbana, en plataforms de salud pública y en herramientas educativas. Y el país enfrenta ahora una encrucijada: construir un marco regulatorio que proteja a sus ciudadanos sin ahogar la innovación tecnológica que promete transformar su economía.

El impulso regulatorio: entre la urgencia y la cautela

Chile no parte de cero en esta carrera regulatoria. El país cuenta con una Política Nacional de Inteligencia Artificial desde 2021, un documento que estableció principios generales pero que carece de fuerza vinculante. Ahora, el debate se ha trasladado al Congreso, donde diversas iniciativas legislativas buscan traducir esos principios en normas concretas con capacidad sancionatoria. La discusión no es meramente técnica: toca fibras sensibles como la protección de datos personales, la discriminación algorítmica y la transparencia en decisiones automatizadas que pueden determinar desde el acceso a servicios básicos hasta oportunidades laborales.

El contexto regional añade presión. Mientras Brasil avanza con su propia legislación de IA y Argentina explora marcos sectoriales, Chile aspira a posicionarse como referente en América Latina. La experiencia europea, con su Ley de IA aprobada en 2024, sirve como inspiración pero también como advertencia: un marco demasiado rígido puede desincentivar la inversión y el desarrollo tecnológico local. La pregunta que recorre los pasillos del Congreso es cómo calibrar esa balanza entre protección y promoción.

Los actores involucrados son diversos y sus intereses, a menudo contrapuestos. Por un lado, organizaciones de derechos digitales y civiles presionan por regulaciones estrictas que prioricen la protección ciudadana. Por otro, el sector tecnológico y empresarial advierte sobre el riesgo de sobreregulación en un mercado emergente. En medio, académicos y expertos técnicos intentan aportar evidencia para fundamentar decisiones que tendrán consecuencias durante décadas. Esta tensión no es exclusiva de Chile, pero la forma en que el país la resuelva podría marcar un precedente para toda la región.

Los pilares de una regulación responsable

El concepto de "regulación responsable" que articula el debate chileno se sustenta en varios pilares fundamentales. El primero es la proporcionalidad: no todos los sistemas de IA presentan los mismos riesgos, y por tanto no deberían estar sujetos a las mismas exigencias regulatorias. Un chatbot de atención al cliente no requiere la misma supervisión que un algoritmo que decide quién accede a tratamientos médicos o quién es considerado sospechoso por sistemas de seguridad pública. Esta aproximación basada en riesgos, inspirada en el modelo europeo, busca concentrar los recursos de fiscalización donde más se necesitan.

El segundo pilar es la transparencia algorítmica. Los ciudadanos tienen derecho a saber cuándo están interactuando con sistemas automatizados y, en casos de alto impacto, a comprender los criterios que fundamentan las decisiones que los afectan. Esto plantea desafíos técnicos complejos: muchos sistemas de aprendizaje automático operan como "cajas negras" cuyo funcionamiento interno es opaco incluso para sus creadores. La regulación debe encontrar formas de garantizar explicabilidad sin exigir imposibles técnicos que simplemente desplacen la innovación hacia jurisdicciones más permisivas.

La verdadera prueba de una regulación de IA no está en cuántas restricciones impone, sino en su capacidad para proteger derechos fundamentales mientras crea condiciones para que la innovación tecnológica florezca y beneficie al conjunto de la sociedad.

El tercer pilar es la rendición de cuentas. Cuando un sistema de IA causa daño —deniega injustamente un servicio, perpetúa discriminación o comete errores con consecuencias graves— debe existir claridad sobre quién responde: ¿el desarrollador del algoritmo, la empresa que lo implementa, o ambos? La legislación chilena en discusión busca establecer cadenas de responsabilidad claras, un aspecto donde muchos marcos internacionales aún presentan ambigüedades. Además, se plantea la creación de una institucionalidad específica —posiblemente una agencia o superintendencia— con capacidad técnica para supervisar el cumplimiento de estas normas en un campo que evoluciona a velocidad vertiginosa.

Desafíos específicos del contexto chileno

Chile enfrenta desafíos particulares que condicionan su aproximación regulatoria. Uno de ellos es la brecha de capacidades técnicas: el país cuenta con talento en IA, pero en cantidades limitadas comparado con potencias tecnológicas. Esto significa que una regulación excesivamente compleja podría ser difícil de implementar y fiscalizar efectivamente. La solución no pasa por bajar estándares, sino por diseñar mecanismos regulatorios que sean técnicamente exigentes pero administrativamente viables con los recursos disponibles.

Otro desafío es la dependencia tecnológica. La mayoría de los sistemas de IA utilizados en Chile son desarrollados en el extranjero, principalmente en Estados Unidos, China y Europa. ¿Cómo puede un país de ingreso medio ejercer soberanía regulatoria sobre tecnologías creadas en otras jurisdicciones? La respuesta pasa por establecer requisitos para la operación en territorio nacional, similar a como funcionan las regulaciones de protección de datos. Las empresas que quieran ofrecer servicios de IA en Chile deberán cumplir estándares locales, independientemente de dónde se desarrolle la tecnología.

La dimensión social no puede ignorarse. Chile es uno de los países más desiguales de la OCDE, y existe el riesgo real de que la IA amplíe esas brechas si no se regula adecuadamente. Sistemas de scoring crediticio podrían perpetuar la exclusión financiera, algoritmos de selección de personal podrían reproducir sesgos de género o socioeconómicos, y herramientas educativas basadas en IA podrían estar disponibles solo para quienes puedan pagarlas. Una regulación responsable debe incorporar explícitamente consideraciones de equidad y no discriminación, con mecanismos de evaluación de impacto que detecten estos problemas antes de que se arraiguen en el tejido social.

Contexto clave

Regulación basada en riesgos: Este enfoque, adoptado por la Unión Europea y considerado en Chile, clasifica los sistemas de IA según el nivel de riesgo que representan para derechos fundamentales y seguridad. Las aplicaciones de riesgo mínimo (como filtros de spam) tienen requisitos mínimos, mientras que las de alto riesgo (como sistemas de contratación automatizada o diagnóstico médico) enfrentan obligaciones estrictas de transparencia, supervisión humana y evaluación de impacto. Algunos usos considerados inaceptables, como sistemas de puntuación social al estilo chino, podrían prohibirse directamente.

Transparencia algorítmica: Se refiere al derecho de las personas a comprender cómo funcionan los sistemas automatizados que toman decisiones sobre ellas. No significa necesariamente acceso al código fuente, sino explicaciones comprensibles sobre qué factores considera un algoritmo y por qué llegó a determinada conclusión. Esto es particularmente complejo con técnicas de aprendizaje profundo, donde ni los propios desarrolladores pueden explicar completamente cada decisión. Por eso, la regulación debe equilibrar el ideal de transparencia total con lo técnicamente posible, enfocándose en explicabilidad práctica más que en apertura absoluta del código.

Discriminación algorítmica: Ocurre cuando sistemas de IA reproducen o amplifican sesgos existentes en los datos con los que fueron entrenados. Por ejemplo, si un algoritmo de selección de personal aprende de decisiones históricas donde se favoreció a hombres sobre mujeres, tenderá a perpetuar ese sesgo. Esto no es intencional, pero tiene consecuencias reales. La regulación busca establecer auditorías obligatorias de estos sistemas, especialmente en áreas sensibles como empleo, crédito, educación y justicia, para detectar y corregir estos sesgos antes de que causen daño sistemático a grupos ya vulnerables.

Para profundizar

• Comparación con marcos regulatorios regionales — Analizar cómo las aproximaciones de Brasil, Argentina y México a la regulación de IA difieren de la chilena podría revelar ventanas de oportunidad para armonización regional que facilite el desarrollo tecnológico latinoamericano sin carreras regulatorias hacia el mínimo común denominador.
• El rol de la participación ciudadana en regulación tecnológica — Explorar mecanismos innovadores para que ciudadanos sin formación técnica puedan contribuir significativamente al diseño de regulaciones de IA, superando la tradicional captura regulatoria por parte de expertos y lobbies corporativos que caracteriza muchas normativas tecnológicas.
• Impacto económico de diferentes escenarios regulatorios — Investigar con datos concretos cómo distintos niveles de exigencia regulatoria afectarían la inversión en IA en Chile, el desarrollo de startups locales y la adopción de estas tecnologías en sectores productivos clave como minería, agricultura y servicios, considerando tanto costos de cumplimiento como beneficios de mayor confianza pública.