¿Puede la inteligencia artificial convertirse en la mayor amenaza para la humanidad?

Mientras millones de personas utilizan ChatGPT para redactar correos o generar imágenes con Midjourney, un grupo creciente de científicos y filósofos advierte que la inteligencia artificial podría representar un riesgo existencial para nuestra especie. No se trata de ciencia ficción: investigadores de instituciones como la Universidad de Chile están examinando con rigor académico si hemos creado una tecnología que podría escapar de nuestro control. La pregunta ya no es si la IA transformará radicalmente nuestra sociedad, sino si seremos capaces de mantenerla alineada con los valores humanos antes de que sea demasiado tarde.

La advertencia que sacudió al mundo académico

En mayo de 2023, más de 350 científicos y líderes tecnológicos firmaron una declaración de una sola frase que comparaba el riesgo de la inteligencia artificial con amenazas como las pandemias globales y la guerra nuclear. Entre los firmantes se encontraban Geoffrey Hinton, considerado uno de los padres del aprendizaje profundo, y Sam Altman, CEO de OpenAI, la compañía detrás de ChatGPT. Esta declaración no provino de activistas alarmistas, sino de quienes están construyendo activamente estas tecnologías. La paradoja es inquietante: los creadores de la IA advierten sobre los peligros de su propia creación.

La Universidad de Chile convocó a un panel de expertos para analizar estas advertencias desde múltiples perspectivas. Académicos de filosofía, ciencias de la computación y ética tecnológica se reunieron para discutir si estas preocupaciones tienen fundamento científico o si representan una distracción de problemas más inmediatos y concretos. El debate reveló que la comunidad académica chilena está dividida entre quienes consideran los riesgos existenciales como la principal amenaza y quienes argumentan que los daños actuales de la IA —sesgos algorítmicos, desplazamiento laboral, vigilancia masiva— merecen mayor atención.

Lo que hace particularmente relevante este debate en Chile es que el país se encuentra en una encrucijada tecnológica. Mientras naciones como Estados Unidos, China y la Unión Europea desarrollan marcos regulatorios para la IA, América Latina apenas comienza a discutir estas cuestiones. La Universidad de Chile, como institución líder en investigación tecnológica en la región, asume un rol crucial en traducir estos debates globales a un contexto local, donde las capacidades técnicas y los recursos para enfrentar estos desafíos son significativamente diferentes.

Entre la extinción y la exageración: dos visiones en conflicto

Los expertos reunidos por la Universidad de Chile representan dos corrientes principales de pensamiento sobre los riesgos de la IA. La primera, conocida como la perspectiva del "riesgo existencial", sostiene que el desarrollo de una inteligencia artificial general (AGI, por sus siglas en inglés) —un sistema capaz de igualar o superar la inteligencia humana en prácticamente todas las tareas— podría conducir a escenarios catastróficos. Según esta visión, una vez que creemos una inteligencia superior a la nuestra, perderemos la capacidad de controlarla o predecir sus acciones. El argumento no es que la IA desarrolle malicia, sino que podría perseguir objetivos incompatibles con la supervivencia humana.

La segunda corriente argumenta que centrarse en escenarios apocalípticos futuristas desvía recursos y atención de daños reales y presentes. Estos académicos señalan que la IA ya está causando perjuicios verificables: algoritmos de contratación que discriminan contra mujeres y minorías, sistemas de reconocimiento facial que conducen a arrestos erróneos, y modelos de lenguaje que perpetúan estereotipos dañinos. Desde esta perspectiva, obsesionarse con una hipotética IA superinteligente es un lujo que ignora las víctimas actuales de sistemas imperfectos desplegados sin supervisión adecuada.

"El verdadero peligro no es que la inteligencia artificial se vuelva demasiado inteligente, sino que confiemos en sistemas que no comprendemos completamente para tomar decisiones que afectan vidas humanas, desde diagnósticos médicos hasta sentencias judiciales."

Esta tensión entre riesgos futuros y daños presentes no es meramente académica. Define cómo se asignan fondos de investigación, qué tipos de regulación se priorizan y qué narrativas dominan el debate público. En Chile, donde los recursos para investigación en IA son limitados, esta decisión tiene consecuencias prácticas inmediatas: ¿debería el país invertir en investigación sobre alineación de IA avanzada o en auditorías de algoritmos que ya están operando en servicios públicos y privados?

Los mecanismos del riesgo: cómo podría materializarse la amenaza

Para comprender si la IA representa verdaderamente un riesgo existencial, es necesario examinar los mecanismos específicos por los cuales podría materializarse tal amenaza. Los expertos identifican varios escenarios plausibles. El primero es el problema de la "optimización mal especificada": un sistema de IA recibe un objetivo aparentemente inofensivo pero lo persigue de maneras que resultan destructivas porque no compartimos los mismos valores implícitos. Un ejemplo clásico es el de un sistema diseñado para maximizar la producción de clips de papel que decide convertir toda la materia disponible —incluyendo recursos necesarios para la vida humana— en su objetivo.

Otro mecanismo de riesgo es la velocidad de desarrollo. A diferencia de amenazas anteriores que la humanidad enfrentó gradualmente, la transición de una IA limitada a una AGI podría ocurrir en un periodo muy corto, posiblemente meses o incluso semanas. Esta "explosión de inteligencia" no daría tiempo para implementar salvaguardas o corregir errores. Los sistemas actuales ya demuestran capacidades emergentes —habilidades que aparecen espontáneamente sin haber sido programadas explícitamente— que sus creadores no anticiparon, lo que sugiere que predecir el comportamiento de sistemas más avanzados será exponencialmente más difícil.

El tercer mecanismo es la competencia geopolítica. Si múltiples naciones o corporaciones compiten por desarrollar la primera AGI, los incentivos para recortar esquinas en seguridad se intensifican. Este escenario de "carrera armamentista de IA" podría conducir a que actores lancen sistemas poderosos antes de comprender completamente sus implicaciones, simplemente para no quedar rezagados. Los expertos de la Universidad de Chile señalaron que esta dinámica ya es observable en la industria tecnológica actual, donde empresas lanzan productos de IA con evaluaciones de seguridad mínimas para capturar cuota de mercado.

La respuesta institucional: entre la regulación y la investigación

Frente a estos riesgos, tanto reales como potenciales, surge la pregunta de qué respuestas institucionales son apropiadas. A nivel global, han emergido varias iniciativas. La Unión Europea aprobó la Ley de IA, el primer marco regulatorio integral que clasifica sistemas según su nivel de riesgo y establece requisitos específicos para cada categoría. Estados Unidos ha optado por un enfoque más fragmentado, con órdenes ejecutivas y regulaciones sectoriales. China, por su parte, ha implementado regulaciones estrictas sobre algoritmos de recomendación y generación de contenido, priorizando el control estatal sobre la innovación.

En Chile, la discusión sobre regulación de IA apenas comienza. El panel de la Universidad de Chile destacó que el país enfrenta un desafío particular: debe desarrollar capacidad regulatoria sin sofocar un ecosistema de IA incipiente que podría impulsar el desarrollo económico. A diferencia de Europa o Estados Unidos, que regulan industrias de IA ya maduras, Chile debe regular tecnologías que en gran medida aún no existen localmente. Esta asimetría crea vulnerabilidades: empresas extranjeras pueden desplegar sistemas de IA en Chile sin las restricciones que enfrentarían en sus países de origen.

Más allá de la regulación, los expertos enfatizaron la necesidad de inversión en investigación fundamental sobre seguridad de IA. Actualmente, solo una fracción minúscula del financiamiento en IA se dedica a cuestiones de alineación y seguridad. Instituciones académicas como la Universidad de Chile podrían desempeñar un rol crucial en desarrollar expertise local en estas áreas, reduciendo la dependencia de conocimiento generado exclusivamente en el Norte Global. Sin embargo, esto requiere recursos significativos y una visión de largo plazo que trascienda ciclos políticos y presupuestarios.

Contexto clave

Inteligencia Artificial General (AGI): A diferencia de la IA "estrecha" que domina tareas específicas como jugar ajedrez o recomendar películas, la AGI se refiere a sistemas que igualan o superan la inteligencia humana en prácticamente todos los dominios cognitivos. Mientras que los sistemas actuales, incluyendo modelos avanzados como GPT-4, son fundamentalmente especializados y carecen de comprensión genuina, la AGI teóricamente podría razonar, planificar, aprender y comunicarse con la flexibilidad y generalidad de un ser humano. No existe consenso sobre cuándo —o si— se logrará AGI, con estimaciones que van desde una década hasta nunca.

Problema de alineación: Este concepto técnico se refiere al desafío de asegurar que los objetivos y comportamientos de un sistema de IA correspondan con los valores e intenciones humanas. El problema es más complejo de lo que parece: incluso si especificamos un objetivo claramente, el sistema podría interpretarlo de maneras literales pero destructivas que no anticipamos. Además, los valores humanos son diversos, a menudo contradictorios y evolucionan con el tiempo, lo que dificulta "programarlos" en una máquina. La investigación en alineación busca métodos para que sistemas de IA aprendan y respeten valores humanos incluso cuando operan en situaciones no previstas por sus diseñadores.

Capacidades emergentes: Los sistemas de IA modernos, especialmente los modelos de lenguaje grandes, exhiben habilidades que no fueron explícitamente programadas y que aparecen espontáneamente cuando el sistema alcanza cierta escala. Por ejemplo, GPT-3 desarrolló capacidades aritméticas básicas sin haber sido entrenado específicamente en matemáticas. Este fenómeno es preocupante desde una perspectiva de seguridad porque significa que no podemos predecir completamente qué hará un sistema más poderoso simplemente examinando su código o datos de entrenamiento. Las capacidades emergentes sugieren que los sistemas de IA podrían desarrollar habilidades peligrosas de manera inesperada.

Para profundizar

• El dilema de la transparencia algorítmica — Mientras los reguladores exigen que los sistemas de IA sean explicables, muchos modelos de aprendizaje profundo funcionan como "cajas negras" donde ni siquiera sus creadores comprenden completamente cómo llegan a sus conclusiones. Esta tensión entre capacidad y comprensibilidad plantea preguntas fundamentales sobre qué sistemas deberíamos permitir en decisiones de alto impacto.
• Impacto laboral y desigualdad económica — Más allá de los riesgos existenciales, la automatización impulsada por IA está transformando radicalmente el mercado laboral. ¿Cómo pueden países como Chile preparar a su fuerza laboral para una economía donde muchas tareas cognitivas tradicionalmente humanas sean realizadas por máquinas? La respuesta podría determinar si la IA amplifica o reduce las desigualdades existentes.
• Gobernanza global de tecnologías transformadoras — La IA no respeta fronteras nacionales, pero su regulación sigue siendo fundamentalmente local. ¿Es posible desarrollar marcos de gobernanza internacional para tecnologías que podrían afectar a toda la humanidad? Las lecciones de tratados nucleares y acuerdos climáticos ofrecen tanto esperanza como advertencias sobre las dificultades de la cooperación global frente a incentivos competitivos.