"La Inteligencia Artificial no puede sustituir al juez", Corte Constitucional

En febrero de 2023, el Juzgado Primero Laboral de Cartagena resolvió una acción de tutela utilizando insumos generados por ChatGPT, un chatbot basado en inteligencia artificial (IA) capaz de responder preguntas y generar párrafos con cierta precisión.

Este hecho generó un amplio debate sobre el uso de tecnologías basadas en IA en la toma de decisiones relacionadas con derechos fundamentales. El caso específico se refería a un menor con autismo que no contaba con los recursos económicos para pagar las cuotas moderadoras y copagos de su servicio de salud.

Dicho caso, llegó hasta la Sala Segunda de Revisión de la Corte Constitucional, donde la madre del menor de edad presentó una tutela contra una EPS, para solicitar el amparo de los derechos fundamentales a la salud y a la vida en condiciones dignas de aquel, debido a la negativa de la entidad de exonerar al niño del pago de cuotas moderadoras y copagos, cubrir los gastos de transporte, con el fin de que el niño pueda asistir a sus terapias, y garantizarle un tratamiento integral.

#LaCorteInforma | La inteligencia artificial (IA) no puede sustituir al juez.

El uso de estas herramientas en la administración de justicia debe respetar los derechos fundamentales y hacerse de manera razonable y ponderada, bajo las cargas de transparencia,

1/2 pic.twitter.com/XX4knXhsD0

— Corte Constitucional (@CConstitucional) August 12, 2024

El Alto Tribunal dividió el estudio del caso en dos grandes temáticas. La primera consistió en la verificación de una posible vulneración del derecho fundamental al debido proceso en razón del uso de la Inteligencia Artificial por parte del juez de tutela de segunda instancia, quien empleó ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia. 

De otra parte, abordó el análisis sobre la eventual afectación de los derechos a la salud, la vida digna y la seguridad social del menor de edad.

"En relación con el debido proceso en un sistema de administración de justicia que haga uso de herramientas de inteligencia artificial IA, la Sala de Revisión de la Corte Constitucional señaló que debía respetarse el derecho a un juez natural, el cual implica como elemento esencial, la condición de ser humano del juzgador ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina", señaló la Corte.

En ese sentido, resaltó que la IA no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción.

Por el contrario, consideró que es admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos; y corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación.

Ante este panorama, la Corte Constitucional concluyó que el uso ponderado y razonado de la IA en el sistema de administración de justicia es admisible, siempre y cuando se considere la protección de los derechos fundamentales.

La Corte enfatizó que el uso de estas herramientas debe basarse en "el criterio esencial de no sustitución de la racionalidad humana" y que los jueces, al recurrir a este tipo de apoyos tecnológicos, deben asumir las cargas de transparencia, responsabilidad y privacidad.

Otras noticias