Magistrado Reyes Torres advierte mal uso IA en sistema judicial afecta derechos de las personas

El magistrado Amaury Reyes Torres, juez del Tribunal Constitucional dominicano, advirtió que el mal uso de la Inteligencia Artificial (IA) en los sistemas de justicia pondría en peligro la tutela judicial efectiva de las personas y el debido proceso a causa de los sesgos que tiene este sistema.

Durante su participación en el panel «Usos y desafíos de la inteligencia artificial en la justicia constitucional», en el marco del XXIV Encuentro de Tribunales, Cortes y Salas Constitucionales de América Latina y el Caribe que se lleva a cabo en Perú, el juez constitucionalista expuso que al usarlo o consultarlo este sistema podría inventar información, lo que contribuye a una irregularidad en las informaciones.

«El uso de la inteligencia artificial de cara al usuario del sistema jurisdiccional pone en peligro la tutela judicial efectiva y el debido proceso, lo cual se agrava porque ese proceso no genera garantías claras, sobre todo ante las alucinaciones o sesgos», indicó.

Precisó que ni los jueces ni el destinatario del servicio jurisdiccional pueden utilizar un instrumento que no entiendan cómo funciona, pues esa asimetría de la información crea grandes problemas a la luz de los mandatos de la Constitución.

«Los más importante para nosotros como jueces es saber lo que estamos haciendo antes de utilizar la inteligencia artificial; igualmente nuestros asesores y letrados, porque mientras menos conocimientos jurídicos se tenga sobre un tema, más fuerte tiene que ser la prohibición del usuario interno de acceder a la inteligencia artificial», manifestó.

En ese sentido, el magistrado Reyes Torres recordó que la ley de inteligencia artificial de la Unión Europea ha establecido que el uso de este sistema en ámbitos jurisdiccionales es de alto riesgo.

A su entender, la inteligencia artificial no debería utilizarse en el ámbito de la función jurisdiccional; sin embargo, como consideró que esto es inevitable, recomienda darle el mejor uso posible teniendo en cuenta que esta herramienta no tiene un fin en sí mismo, sino el que las personas le den.

El magistrado precisó que los jueces, asesores y letrados deben estar conscientes de que los modelos de IA no tienen inteligencia crítica ni reflexiva. «No pueden pensar sobre aquello que ha sido pensado, cómo puede ser pensando, simplemente reaccionan ante un determinado comando por todos los datos recopilados», agregó.

Reyes Torres expresó que no se puede utilizar la inteligencia artificial generativa para dictar o crear sentencias, ya que «en sí mismo no dicen nada, el instrumento no comprende lo que está diciendo»

El magistrado Reyes Torres enfatizó que la inteligencia artificial es un pésimo regulador, al que solo podrían delegarse pequeñas tareas, pero «debe ser doblemente revisado».

Sobre este punto, el juez dijo que a esta herramienta podrían dársele usos claves en el tratamiento de los precedentes, el trámite documental, en la jurisprudencia por usuarios internos y externos, para traducir ciertos idiomas y en la estandarización de procedimientos.

Informó que en el Tribunal Constitucional dominicano se habilitó el chatbot «Patria» para los usuarios externos, el cual se ha estado alimentando de manuales y de procedimientos constitucionales accesibles, al que las personas pueden preguntarle información relacionada con esta alta corte.

En este panel también participaron Paul Franco Zamora, presidente del Tribunal Constitucional Plurinacional de Bolivia; Helder Domínguez Haro, vicepresidente del Tribunal Constitucional de Perú e Ingrid Hess Herrera, magistrada de la Sala Constitucional de la Corte Suprema de Justicia de Costa Rica.

Asimismo, intervinieron Dina Josefina Ochoa, magistrada de la Corte de Constitucionalidad de Guatemala, y Ana María Ramos Serrano, magistrada auxiliar de la Corte Constitucional de Colombia.

El evento estuvo organizado por la Fundación Konrad Adenauer, en el contexto del Programa Estado de Derecho América Latina; y por el Tribunal Constitucional de la República del Perú. Fue moderado por Carolina Villadiego, de la Comisión Internacional de Juristas.

En la actividad estuvieron presentes los magistrados Napoleón R. Estévez Lavandier, presidente del TC dominicano, y Eunisis Vásquez Acosta, segunda sustituta del presidente, quienes también están participando en el XXIV Encuentro de Tribunales, Cortes y Salas Constitucionales de América Latina y el Caribe, que reúne en un solo escenario de discusión y reflexión a jueces constitucionales del continente.