China tiene un nuevo "cerebro de IA": la tecnología necesaria para espiar y tomar decisiones militares desde el cielo

La Inteligencia Artificial (IA) conlleva muchos beneficios, pero también muchos riesgos. Por eso, eliminar la supervisión humana puede ser una malísima idea.

Es un tema bastante recurrente que se ha vuelto a poner sobre la mesa después de que China anuncie que está probando el uso de la IA para avanzar en sus sistemas de vigilancia basados en satélites. Muchos expertos han mostrado su preocupación por la posibilidad de que dichos sistemas se empleen con fines militares.

Otros países, como Estados Unidos e Israel, han sentado un precedente preocupante, por lo que hay cierto temor a que se pueda hacer un uso indebido de estas tecnologías que termine siendo letal. Los pasos de China.

Durante mucho tiempo, China ha insistido en la importancia de que la IA cuente siempre con supervisión humana. Sin embargo, el anuncio que han recogido medios como Interesting Engineering sigue una premisa distinta.

El país asiático pretende que sus sistemas de IA satelitales sean capaces de desglosar tareas complejas, coordinar flujos de trabajo y recuperarse independientemente de posibles fallos. Dicho muy resumidamente, usarían algoritmos capaces de analizar información, tomar decisiones y actuar sin necesidad de humanos.

La observación satelital puede tener muchos usos, desde analizar el comportamiento animal hasta ayudar a las previsiones meteorológicas. Sin embargo, ese énfasis en que la IA pueda actuar por sí misma recuerda inevitablemente a lo que ya estamos viendo en Estados Unidos con fines militares.

En Xataka Si la guerra vuelve a reanudarse EEUU corre un riesgo sin precedentes en la historia bélica: que el único con misiles sea Irán

El caso de Estados Unidos. Se sospecha que el ejército estadounidense cuenta con varios sistemas de puntería basados en IA, aunque hay mucha información clasificada al respecto.

A grandes rasgos, estos emplearían datos obtenidos mediante cámaras ópticas, infrarrojas, radar, LIDAR y otros sensores para localizar objetivos militares y, posteriormente, disparar si se considera necesario. El pasado mes de febrero, el ataque a una escuela clasificado como erróneo abrió el debate sobre este tema.

En él murieron 175 personas, la mayoría niñas. Puesto que se reconoció que fue un ataque equivocado, aumentaron las sospechas sobre la posibilidad de que la IA estuviese detrás.

Al tratarse de información clasificada, no puede saberse con seguridad, pero es un riesgo más que tangible. Estados Unidos ha contratado actualmente a SpaceX para mejorar la conectividad de los tiradores y que reciban cuanto antes la información de disparar o no.

Está claro que quieren seguir avanzando en este aspecto y es algo que, lógicamente, preocupa mucho a los expertos. El caso de Israel.

No es exactamente lo mismo, pero Israel también ha dejado decisiones bélicas en manos de la IA, con resultados preocupantes. Por ejemplo, cuentan con un sistema que utiliza datos procedentes de llamadas telefónicas, redes sociales, metadatos, información visual o contactos, entre otras fuentes, para determinar quiénes pueden ser objetivos.

Según una investigación de +972 Magazine, en las primeras semanas de la guerra contra Palestina detectó a 37.000 objetivos como miembros de Hamás. El propio ejército reconoció que el algoritmo tiene un 90% de probabilidad de acertar.

Esto nos da pistas de lo catastrófico que puede resultar.

¿Más transparencia?

China ha asegurado que tendrá más transparencia que otros países al introducir la IA en el manejo de sus satélites. No obstante, esto no minimiza la preocupación de los expertos.

De momento, parece ser que los algoritmos han logrado esquivar obstáculos de forma independiente en la fase de pruebas. Para que sean capaces de disparar, si se llegan a usar con ese fin, aún queda mucho camino por recorrer.

Pero resulta viable. Por eso, es urgente que se tomen medidas para regular lo máximo posible el uso de IA sin supervisión humana. 

Hay demasiados seres humanos con pocos escrúpulos, pero incluso esos puede que tengan algún reparo más que las máquinas. Una IA no puede mostrar preocupación, ni conciencia ni ética.

Tampoco pregunta antes de disparar si no se le indica que tiene que hacerlo. Por eso, si queremos que maneje satélites capaces de observar y controlar lo que hacemos en el planeta, sería aconsejable que nos aseguremos de que alguien con escrúpulos siga estando al mando.

Aunque en algunos contextos eso sea difícil de encontrar. 

Imagen | Kevin Stadnyk (Unsplash)/Magnific