Elaborado por Claudia Helena Botina Bolaños
16 de agosto de 2024
16 de agosto de 2024
En los últimos años, la inteligencia artificial (IA) ha dejado de ser una promesa futurista para convertirse en una realidad tangible que está transformando múltiples sectores a nivel global. En Colombia, su impacto comienza a ser evidente en campos tan diversos como la medicina, la educación y, más recientemente, en la Rama Judicial.
La incorporación de la IA en el sistema de justicia plantea tanto oportunidades como desafíos que no pueden ser ignorados. Si bien promete mejorar la eficiencia del sistema y optimizar los procesos, también suscita preocupaciones sobre la imparcialidad, la ética y la autonomía de las decisiones judiciales.
En ese contexto, recientemente la Corte Constitucional, en la sentencia T-323 del 2 de agosto de 2024, con el magistrado ponente el doctor Juan Carlos Cortés González, analizó las implicaciones del uso de la IA para la toma de decisiones judiciales. Esta sentencia tuvo su origen en el hecho de que un juez del circuito, en segunda instancia, utilizó ChatGPT 3.5 para emitir una decisión en sede de tutela relacionada con el cobro de copagos y cuotas moderadoras en el Sistema General de Seguridad Social en Salud, el suministro del servicio de transporte y el derecho a un tratamiento integral de un niño diagnosticado con trastorno del espectro autista, también denominado TEA.
Por este motivo, la Corte Constitucional analizó si el uso de la IA por parte de los jueces puede configurarse como una vulneración al debido proceso al no existir certeza de la titularidad de quien emite la decisión: si es el juez o la IA. Asimismo, se evaluó si, con fundamento en esto, la decisión fue debidamente motivada o si fue producto de alucinaciones y sesgos generados por la IA.
En relación con la posible violación al debido proceso por la utilización de ChatGPT en la argumentación del juez, la Sala consideró que no se reemplazó la función jurisdiccional por parte de ChatGPT, dado que la IA se utilizó después de que el juez hubiera motivado y tomado la decisión.
Esto se debió a que el juez empleó el siguiente método para solicitar la información a ChatGPT: (1) identificó la tesis que sostendría, (2) identificó las normas constitucionales aplicables al caso, (3) identificó el referente jurisprudencial aplicable al caso, y (4) indicó a la IA que el cobro de copagos y cuotas moderadoras constituía una barrera de acceso al servicio de salud del niño. Una vez culminó con la indicación a la IA de estos cuatro temas, el juez procedió a efectuarle preguntas a la IA, las cuales transcribió en su decisión. Por lo anterior, no se cuestionó la validez de la decisión del juez, pues fue tomada antes de utilizar ChatGPT.
Por ello, la Corte Constitucional determinó que no se violó el derecho al debido proceso, al no configurarse una usurpación de la función de administración de justicia a cargo de la autoridad judicial competente por parte de ChatGPT. Asimismo, determinó que «el juez incumple sus deberes legales cuando, habiendo utilizado IA en una decisión judicial: (i) la emplea en el ejercicio de funciones de raciocinio que son indelegables e irremplazables; (ii) no es transparente con el usuario de la administración de justicia al revelar el uso de IA, comprometiendo con ello la garantía efectiva de su derecho de contradicción; (iii) no realiza de manera rigurosa la verificación de la fiabilidad de la información que soporta la motivación del fallo, pudiendo comprometer la independencia o imparcialidad debido a los sesgos y alucinaciones de la IA; y/o (iv) no adopta las cautelas necesarias para evitar la transgresión de derechos como el habeas data o la intimidad».
Sin embargo, la Corte Constitucional determinó que, con fundamento en la salvaguarda de los derechos fundamentales y de las garantías constitucionales para los usuarios del sistema de administración de justicia, dadas las posibilidades de alucinaciones, sesgos discriminatorios y demás riesgos asociados a la IA, era necesario establecer algunos criterios orientadores. Sugirió, además, crear una herramienta de IA de uso exclusivo para la Rama Judicial, que mitigue estos riesgos y contribuya a la eficiencia de los despachos judiciales y, por ende, a la eficacia de la Justicia.
Por lo tanto, exhortó a los jueces de la República y ordenó al Consejo Superior de la Judicatura emitir guías o lineamientos sobre la implementación del uso de la IA, y que desde la judicatura se adopten las mejores prácticas sobre su uso, conforme a los principios y mandatos constitucionales, sin permitir en modo alguno que se restrinja el derecho al debido proceso o la autonomía e independencia judiciales.
En ese sentido, la sentencia T-323 de 2024 marca un punto de inflexión en el debate sobre la integración de la inteligencia artificial en la Rama Judicial en Colombia, pues pone el foco en que la IA puede ser una herramienta poderosa para la Justicia, pero solo si su uso es guiado por un marco ético sólido que garantice que no se comprometan los derechos fundamentales, ni las garantías constitucionales de los usuarios de la administración de justicia, ni la integridad del sistema judicial. El reto ahora es equilibrar la innovación tecnológica con la protección de los valores que sostienen nuestra democracia y el Estado social de derecho, asegurando que la Justicia siga siendo, ante todo, humana, ética e imparcial.