Una demanda en la que se utilizó la inteligencia artificial desata un debate en Colombia
Una reciente demanda presentada por una madre en defensa de su hijo con autismo ha encendido un debate muy importante sobre el uso de la inteligencia artificial (IA) en el sistema judicial colombiano. La controversia surgió cuando un juez de Bogotá reveló haber consultado a ChatGPT 3.5, una popular herramienta de IA, mientras redactaba un fallo en segunda instancia. El caso, que ha llegado hasta la Corte Constitucional, plantea interrogantes sobre el papel de la tecnología en la toma de decisiones legales y el impacto que podría tener al involucrarse en los derechos de los ciudadanos.
El origen del conflicto radica en la petición de la madre, que solicitaba la exoneración de las cuotas que debía pagar cada vez que su hijo, quien padece autismo, asistía a terapias físicas en su Entidad Promotora de Salud (EPS). La señora argumentó que no contaba con los recursos económicos para cubrir estos costos, ni para los gastos de transporte al centro médico. En múltiples ocasiones, se vio obligada a caminar largas distancias con su hijo, que, por lo largo del trayecto, a veces se rehusaba a caminar.
El juez que atendió el caso decidió consultar a ChatGPT para complementar su análisis jurídico en un intento de ayudar a la familia. Preguntó a la IA si un menor con autismo debería ser exonerado de pagar las cuotas moderadoras de sus terapias y si la tutela en cuestión debía ser concedida. Aunque la inteligencia artificial no proporcionó recomendaciones específicas sobre el proceso judicial, el tribunal encontró que el juez había utilizado las respuestas de la herramienta para reforzar su decisión, que terminó siendo a favor de la madre.
Este caso ha sido el primero en Colombia en el que se documenta explícitamente el uso de inteligencia artificial en una decisión judicial, lo que llevó a la Corte Constitucional a examinar detenidamente la situación. La Corte ratificó que el Estado debía cubrir los gastos de transporte del menor y su familia, pero también estableció un precedente sobre las limitaciones del uso de la inteligencia artificial en la justicia. Según la Corte, los jueces deben evitar delegar en la IA funciones de razonamiento que son "indelegables e irremplazables", de lo contrario iría en contra de sus deberes. El precedente deja en claro que los jueces deben asegurar la transparencia y la imparcialidad al utilizar estas herramientas.
En conversaciones con el diario El País, Catalina Moreno, subdirectora de la Fundación Karisma, una organización enfocada en el uso responsable de la tecnología en Colombia, destaca que es el uso de la herramienta lo que traza la línea de lo ético. “Uno de los derechos que tenemos los ciudadanos es a ser juzgados por una persona competente, un juez, y también el derecho a saber quién está fallando y con base en qué normas llegó a una decisión. Ahí es donde entra el dilema cuando se usa ChatGPT”.
También sugiere que la IA podría utilizarse para tareas como resumir investigaciones y la recoplicación de datos que sean necesarios, sin reemplazar el criterio humano. “Por ejemplo, en este caso habría sido distinto pedirle a la IA que haga un resumen sobre los 'papers' que existen en las barreras de salud para las personas con autismo. Esa es una pregunta válida para complementar una decisión sin reemplazar el criterio del juez”, afirmó.
Andrés Díaz Arana, profesor de Derecho Penal y experto en tecnología legal, coincide en que la IA no debe suplantar la labor humana en la justicia. “Nunca un buscador reemplazará la labor del ser humano, porque la labor del juez no es buscar información, sino construir reglas del derecho a través del razonamiento, que por naturaleza es humano”. Díaz, quien también ha desarrollado un sistema de IA legal en Colombia, argumenta que estas herramientas deben mejorar la eficiencia sin comprometer la autonomía del juez.
Este no es el primer caso en el que la Corte Constitucional de Colombia enfrenta desafíos relacionados con la inteligencia artificial. La propia Corte utiliza una herramienta llamada PretorIA, que ayuda a clasificar las sentencias de tutela para facilitar el trabajo de los magistrados. Sin embargo, el uso de la IA en la justicia colombiana aún no está debidamente reglamentado, a diferencia de otros países como Argentina y México, donde ya existen normativas claras.
Por otro lado, la UNESCO ha mostrado interés en monitorear el uso de la IA en los sistemas de justicia a nivel mundial, enfatizando la necesidad de que cada país establezca sus propias regulaciones para garantizar que la tecnología mejore la autonomía humana en lugar de reemplazarla. En este contexto, el caso colombiano podría sentar un precedente importante y guiar futuros debates en el marco legal sobre la integración de la inteligencia artificial en la justicia para distintos países que deben implementar dichas regulaciones. @mundiario