¿Podemos confiar en las herramientas de IA que nos ayudan en la justicia?

En un escenario que podría haber salido de una película de ciencia ficción, un juez de Estados Unidos se vio obligado a cancelar un juicio después de descubrir que los abogados de ambas partes habían usado ChatGPT para preparar sus escritos. La jueza del caso no solo suspendió el proceso, sino que expulsó a todos los implicados, dejando a la justicia en un callejón sin salida.

El caso en cuestión se estaba llevando a cabo en el condado de Santa Cruz, en California, y se trataba de un litigio entre dos empresas que habían sido demandadas por una supuesta violación de derechos de propiedad intelectual. Los cuatro abogados involucrados, dos de cada parte, habían utilizado ChatGPT para preparar sus escritos y argumentos, lo que incluía citar casos judiciales inventados. Pero no era solo eso: los abogados habían utilizado herramientas de inteligencia artificial para generar jurisdicción inexistente, lo que habría llevado a una sentencia injusta si no se hubieran descubierto.

La herramienta de IA que se usó en el caso

ChatGPT es una herramienta de inteligencia artificial desarrollada por OpenAI, una empresa fundada por Elon Musk y otros inversores. La herramienta se lanzó en noviembre de 2022 y se ha convertido rápidamente en una de las herramientas más populares de IA en la web. Pero no es la única herramienta de IA que se utiliza en la justicia: otras herramientas, como AI Judge y RoboJudge, también se están utilizando en algunos tribunales.

La pregunta es: ¿podemos confiar en estas herramientas de IA que nos ayudan en la justicia? La respuesta es clara: no. La historia del juicio en Santa Cruz es solo un ejemplo de lo que puede pasar cuando se utilizan herramientas de IA sin supervisión ni control.

El contexto clave

La historia del juicio en Santa Cruz nos enseña varias lecciones importantes sobre la utilización de herramientas de IA en la justicia. La primera es que la IA no es una herramienta neutral: puede ser utilizada para generar información falsa y engañosa. La segunda es que la supervisión y el control son fundamentales para evitar que se utilicen herramientas de IA de manera inapropiada. Y la tercera es que la justicia necesita ser protegida de la IA, no dominada por ella.

Para profundizar

• El papel de la IA en la justicia — ¿Cuál es el papel de la IA en la justicia y cómo se está utilizando en los tribunales? ¿Qué beneficios y riesgos tiene la utilización de herramientas de IA en la justicia?
• La supervisión de la IA en la justicia — ¿Cómo se puede supervisar la utilización de herramientas de IA en la justicia para evitar que se utilicen de manera inapropiada? ¿Qué medidas pueden tomar los tribunales para asegurarse de que la IA se utilice de manera justa y equitativa?
• La protección de la justicia de la IA — ¿Cómo se puede proteger la justicia de la IA y evitar que se utilice para generar información falsa y engañosa? ¿Qué medidas pueden tomar los tribunales para asegurarse de que la justicia sea protegida de la IA?