Cuando la decisión es del juez, pero la fundamentación de la inteligencia artificial

En junio de 2025, un juez penal de Esquel condenaba a un hombre a dos años y seis meses de prisión efectiva por robo simple. La sentencia fue apelada y la Cámara en lo Penal de la Circunscripción Judicial de Esquel [1] en dicha instancia encontró en el punto IV de los fundamentos una frase que no sería del magistrado. La misma rezaba: "Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar". Sic, lo que evidenciaba que el magistrado había usado —para redactar ese apartado que resumía los planteos probatorios de la defensa— la respuesta de un asistente de inteligencia artificial generativa y que al pegar el contenido en su sentencia habría omitido borrar la propia instrucción del sistema.

Frente a ello, los camaristas Hernán Dal Verme, Martín Eduardo Zacchino y Carina Paola Estefanía dispusieron la anulación de la sentencia de oficio, sin que ninguna de las partes lo hubiera pedido, en una decisión que se apoyó en el Acuerdo Plenario 5435/2025 del propio STJ sobre "Directivas para el uso ético y responsable de inteligencia artificial generativa en el Poder Judicial de Chubut" [2].

Los Fiscales de la causa interpusieron queja contra el interlocutorio de la Cámara en lo Penal de Esquel, que denegó la impugnación extraordinaria deducida contra la sentencia mediante la cual ese tribunal declaró de oficio la nulidad del fallo de primera instancia y ordenó la realización de un nuevo juicio.

El Superior Tribunal de Justicia hizo lugar a la queja [3], dejó sin efecto la nulidad declarada y dispuso el reenvío de las actuaciones a la Cámara en lo Penal de Esquel para que, con una nueva integración, se pronuncie sobre los agravios oportunamente introducidos, circunscribiendo su análisis a la materia sometida a revisión y garantizando el derecho al doble conforme.

LEER MÁS ► Derecho al olvido digital y perspectiva de género: un análisis del fallo Natalia Denegri

Para así decidir, el máximo tribunal, en la temática sub examine, admitió que el uso de herramientas tecnológicas en la función jurisdiccional constituye una realidad propia del sistema de justicia contemporáneo y que su incorporación debe realizarse dentro de un marco de responsabilidad, control humano efectivo y respeto irrestricto de las garantías constitucionales.

Así también sostuvo que el Derecho Procesal no puede permanecer ajeno a los avances tecnológicos y que en dicho marco la inteligencia artificial será una herramienta de apoyo pero nunca una fuente autónoma de decisión ya que la responsabilidad por el contenido del fallo recae íntegramente en el magistrado que lo suscribe por lo que el control humano debe ser real, crítico y previo a la emisión del pronunciamiento; y la protección de datos y la anonimización constituyen deberes funcionales cuya inobservancia no determina automáticamente la invalidez del acto jurisdiccional.

También interesa destacar que, para el máximo tribunal, el juez no debe rendir cuentas de los materiales que asumió o descartó para llevar a buen puerto su resolución pues sino vería afectada su independencia y la libertad para decidir según su leal saber y entender, esto es, su libertad de discernir.

Un juez penal de Esquel condenaba a un hombre a dos años y seis meses de prisión efectiva por robo simple.

Por nuestra parte, si bien compartimos lo decidido por el Superior Tribunal de Justicia de la Provincia del Chubut, ya que no procede la nulidad por la nulidad misma, sino que debe verificarse la concurrencia de una afectación sustancial de garantías o un perjuicio, extremos que no pueden inferirse únicamente de la imposibilidad de reconstruir el proceso interno de elaboración del fallo y de errores en la utilización de la herramienta de IA, es preciso señalar algunos parámetros o reglas a tener en cuenta que, en su mayoría, están siendo receptados por las reglamentaciones locales y nacional.

a) Anonimización - Confidencialidad: Al utilizarse la IA generativa en un aspecto central de su resolución no se deben incluir nombres de las personas que participaron del juicio debiéndose cumplir con los recaudos de confidencialidad que exige el uso de esta. Actualmente existen programas que permiten la anonimización previa a la carga de datos, como el Anonimizador de Documentos Judiciales de la Red de Internacional Justicia Abierta (RIJA) [4].

b) Supervisión - Control humano - Identificación de sesgos: Debe ejercerse la necesaria supervisión y el control humano obligatorio. Dicho control permite, además de los clásicos erros del copy-paste, que se puedan identificar a tiempo sesgos propios del uso de la inteligencia artificial que pueden llevar a una conclusión injusta o desproporcionada en la toma de las decisiones judiciales.

En tal sentido nos referimos principalmente a:

• Sesgos de exclusión y/u omisión: que acontecen cuando datos claves no están representados en los algoritmos de entrenamiento de la IA, omitiendo información relevante en su proceso de decisión por no considerarlos en su diseño inicial o por falta de datos obrantes en la misma.
• Sesgo de automatización: Cuando el magistrado deposita su total confianza en las decisiones de la IA sin una supervisión o validación humana adecuada.
• Sesgo de interpretación cuando los resultados de la IA son interpretados de manera subjetiva influenciados por las expectativas o creencias del magistrado sin verificar datos objetivos de la causa.
• Sesgo de discriminación: A diferencia del anterior en este caso es la propia IA la que en su procesamiento de los datos y algoritmos de machine learning evidencia la generación de prejuicios de género, homofobia y estereotipos raciales entre otros o en su defecto refuerzan prejuicios raciales y género o socioeconómicos, preexistentes.

Todo esto no es una cuestión menor ya que, través de diversos fallos de organismos internacionales se ha sancionado la utilización de la IA justamente por los sesgos advertidos en la misma. En efecto, el más conocido es el Caso SyRI (Tribunal de La Haya, Países Bajos - 5 de Febrero 2020) ya que constituye la sentencia pionera a nivel mundial sobre algoritmos públicos. En este caso el tribunal ordenó frenar el System Risico Indicatie (SyRI), un sistema predictivo utilizado por el Gobierno de los Países Bajos para evaluar el riesgo de cometer fraude fiscal. La Corte sentenció que el algoritmo violaba el artículo 8 del Convenio Europeo de Derechos Humanos (derecho a la privacidad) porque carecía de total transparencia y generaba un sesgo discriminatorio contra barrios de bajos recursos, estigmatizando a la población vulnerable.

Otro caso emblemático fue el de los Algoritmos de Cuidado Infantil (Consejo de Estado, Países Bajos - 2021) en donde se judicializó el uso de un algoritmo de aprendizaje automático de las autoridades fiscales que suspendía ayudas financieras para el cuidado de niños ante la más mínima sospecha. El sistema poseía un claro sesgo de nacionalidad, perfilando como de "alto riesgo" a miles de familias simplemente por poseer doble nacionalidad, lo que generó un verdadero escándalo institucional llegando a la caída del Gobierno Neerlandés ya que entre 2009 y 2019, en el que ahora se conoce como el toeslagenaffaire (el asunto de las prestaciones), alrededor de 26.000 padres fueron acusados por error de cometer fraude con las prestaciones por cuidado de los hijos.

Al utilizarse la IA generativa en un aspecto central de su resolución no se deben incluir nombres de las personas que participaron del juicio.

Los servicios fiscales neerlandeses pusieron en su punto de mira principalmente a las familias de entornos más pobres y a aquellas con nombres de "sonoridad extranjera", obligándolas en algunos casos a devolver injustificadamente decenas de miles de euros de subsidios por el cuidado de los hijos. Las personas afectadas a menudo no tuvieron acceso a recursos legales, lo que llevó a muchas familias a endeudarse e inclusive a perder su vivienda.

c) Uso del prompt: Un adecuado uso del prompt cobra vital importancia ya que, mediante las preguntas, el contexto y las indicaciones que los usuarios les proporcionen en forma de texto a la inteligencia artificial se podrán obtener respuestas precisas y relevantes permitiendo a su vez una interacción dinámica y fluida con la misma.

El potencial de aprovechamiento de esta herramienta se amplifica con la construcción de prompts precisos, ya que cuanto mayor precisión y calidad se verifique en la formulación de la pregunta, más clara y relevante será la respuesta mientras que si el mismo es confuso o poco elaborado nos encontraremos frente a respuestas variadas, imprecisas o hasta inclusive incorrectas.

Entendemos que, en definitiva, la incorporación de inteligencia artificial en la actividad jurisdiccional no constituye un problema en sí mismo, sino que plantea el desafío de redefinir los estándares de responsabilidad, control y fundamentación de las decisiones judiciales.

Es así como entendemos que la IA asiste, sugiere, organiza, pero nunca decide, fundamenta por si sola y mucho menos sustituye al juez.

El verdadero riesgo no reside en la herramienta, sino en su uso acrítico o sustitutivo del razonamiento humano por lo que el sistema judicial deberá de lograr un equilibrio entre lo que constituye una innovación tecnológica y las garantías constitucionales ya que no se puede soslayar la exigencia de motivación de las decisiones judiciales. En efecto, la incorporación acrítica de contenido generado automáticamente puede dar lugar a una fundamentación meramente aparente, es decir, que el fallo cumple formalmente con los requisitos de motivación, pero carece de un verdadero proceso deliberativo independiente, fundado y responsable, lejos de lo que debe constituir la sana crítica del juez.

Es por ello por lo que la IA solo puede ocupar un lugar instrumental, regulado y auditable, subordinado al juicio crítico del magistrado por lo que si bien, no es posible resistirse a la incorporación de estas tecnologías, deberán ser integradas de manera adecuada, asegurando que potencien y nunca reemplacen la labor intelectual del juez.

Para la supervisión del uso de la IA en los juzgados debe existir un conjunto integrado de controles jurídicos, técnicos e institucionales en donde el control humano previo y crítico constituye el núcleo central ya que el magistrado no puede limitarse a "copiar y pegar" sin revisión alguna, sino que debe verificar la exactitud jurídica, contrastar con la normativa, doctrina y pruebas existentes en el caso y por último ajustar el texto a su propio razonamiento jurídico.

En la misma línea la IA debe ser siempre una herramienta destinada a la redacción preliminar de los hechos descriptos en la sentencia, la elaboración de una síntesis de un expediente, pero nunca debe servir para la toma de decisiones ya que, esto último, es una atribución indelegable y exclusiva del juez.

También estimamos importante la trazabilidad y registro del uso de IA dejando constancia de que se utilizó la misma, cuál fue su finalidad y en que etapa del proceso bien sea a través de un registro interno, inserción de metadatos en el documento o dentro de sistemas judiciales con logs de uso, lo cual permitirá una mayor transparencia institucional, auditorias posteriores y control disciplinario en su caso, detectando en su caso si existe un uso indebido de IA, la presencia de errores típicos en la utilización de prompts y la coherencia de la fundamentación evitando alucinaciones (que son las que ocurren cuando el sistema "inventa" información que suena creíble, pero es falsa), identificación de sesgos, etc.

A su vez dicha registración facilita la revisión judicial del decisorio ante los tribunales de alzada pudiendo detectar si existió un uso indebido de la IA, si se afectó la fundamentación, corrigiendo o anulando las decisiones por lo que la misma constituirá sin lugar a duda un tema justiciable que estimamos recién comienza.

Por último, un aspecto central que emerge del uso de herramientas de inteligencia artificial en la función jurisdiccional es la determinación de la responsabilidad jurídica frente a eventuales errores, omisiones o sesgos que puedan incidir en la decisión judicial.

Adelantamos que el uso de inteligencia artificial en el ámbito judicial no genera un vacío de responsabilidad, sino que refuerza los principios tradicionales del sistema jurídico: la indelegabilidad de la función jurisdiccional, la centralidad del control humano y la exigencia de una motivación auténtica, fundada y verificable.

En principio, podemos afirmar que la incorporación de inteligencia artificial no altera el régimen clásico de responsabilidad del magistrado ya que este es el único responsable por el contenido, la fundamentación y las consecuencias jurídicas de sus decisiones mientras que la IA, en tanto instrumento auxiliar, no posee capacidad decisoria ni autonomía jurídica, por lo que no puede ser considerada sujeto pasible de responsabilidad.

En este caso la responsabilidad judicial en contextos de uso de inteligencia artificial se atribuye en términos de "responsabilidad ocasionada por la falta de supervisión" es decir, el juez no responde por el "error de la IA" en abstracto, sino por haber omitido ejercer un control previo, efectivo, crítico y suficiente sobre el resultado producido, es decir, una especie de impericia al no haber seguido las reglas de la "lex artis" que le exige una debida diligencia en la redacción de la sentencia conforme con su saber jurídico.

Desde esta perspectiva, cualquier error derivado del uso de inteligencia artificial ya sea por, defectos en la información provista, sesgos en los resultados o fallas en la interpretación de su output (lo que la IA devuelve) debe ser atribuido al operador humano que la emplea. En particular, el magistrado incurre en responsabilidad cuando adopta de manera acrítica el contenido generado por la herramienta, sin realizar las correspondientes verificaciones jurídicas, fácticas y probatorias que en el caso se requieren.

A su vez también podrá extenderse la responsabilidad al Estado por el funcionamiento irregular del servicio de justicia, en la medida en que el uso inadecuado de tecnologías afecte garantías constitucionales como el debido proceso, la defensa en juicio o la motivación de las decisiones.

Por su parte deberá analizarse la posible responsabilidad de los proveedores de sistemas de inteligencia artificial, especialmente cuando se trate de herramientas diseñadas específicamente para el ámbito jurídico. En estos casos, podrían configurarse supuestos de responsabilidad por productos defectuosos o por información inexacta, particularmente si el sistema presenta fallas estructurales, deficiencias en su diseño o carece de mecanismos adecuados de control y transparencia.

No obstante, la atribución de responsabilidad a terceros no exime ni reduce el deber de diligencia del magistrado. Por el contrario, la utilización de inteligencia artificial exige un estándar de cuidado reforzado, que implica no solo la revisión del contenido generado, sino también la comprensión mínima de las limitaciones y riesgos inherentes a la herramienta utilizada.

Notas al pie

[1] Provincia del Chubut vs. P., R. A., Cám. Penal, Esquel, Chubut, 15/10/2025, Rubinzal Online, www.rubinzalonline.com.ar, RC J 9735/25.

[2] Dicho Acuerdo Plenario citado está compuesto por los considerandos, la parte resolutiva y un anexo en el que se encuentran las directivas, propiamente dichas. En sus considerandos establece: "... directrices claras para fomentar el uso ético, garantizar el control humano en las decisiones, proteger la confidencialidad de los datos y promover la capacitación continua de los agentes judiciales". Los objetivos de las directrices son: 1. Fomentar el uso ético y responsable: Recomendar la implementación de medidas que mitiguen los riesgos inherentes al empleo de IAG en (alucinaciones, sesgos y discriminación, falta de transparencia, dependencia excesiva y sobre confianza); 2. Garantizar el control humano: Asegurar que toda decisión judicial continúe siendo responsabilidad de magistrados/as y funcionarios/as competentes. De ninguna manera puede delegarse la toma de decisiones en la IAGen; 3. Proteger datos personales y confidenciales: Resguardar la información sensible del Poder Judicial y de las partes involucradas. Desplegar herramientas que contribuyan a la anonimización cuando sea necesario; 4. Promover capacitación y actualización continua: Desarrollar programas de formación interdisciplinarios para garantizar un uso efectivo y seguro de la IA Gen. Asimismo, menciona los principios rectores: 1. Control humano: Todas las respuestas generadas por sistemas de IAGen deben ser supervisadas tanto antes como después de su aplicación. Esto asegura que las decisiones finales recaigan siempre en los profesionales, quienes evaluarán la pertinencia, exactitud y coherencia de los resultados obtenidos. El control humano es esencial para prevenir errores y garantizar que las respuestas sean adecuadas para el contexto legal en el que se utilizan; 2. Mitigación de riesgos: Las herramientas de IAGen pueden generar contenido con errores ("alucinaciones"), reflejar prejuicios ("sesgos") o inducir una falsa confianza en inducir una falsa confianza en su precisión ("sobre confianza"). Los usuarios deben ser capaces de identificar estas limitaciones y trabajar en corregirlas, contrastando siempre las respuestas con fuentes confiables y ejerciendo un juicio crítico; 3. Capacitación continua: Para garantizar un uso adecuado de estas herramientas, es imprescindible que los operadores judiciales participen en programas de capacitación continua. Estos programas deben enfocarse en explicar cómo funcionan las herramientas de IAGen, sus posibilidades, sus riesgos y las mejores prácticas para su aplicación en el ámbito judicial; 4. Ética y responsabilidad: El uso de la IAGen debe estar alineado con los principios fundamentales del derecho y la justicia, como la imparcialidad, la equidad y el respeto por los derechos fundamentales. Esto implica un compromiso activo por parte de los usuarios para garantizar que las herramientas se utilicen con integridad y que no se deleguen decisiones sensibles en sistemas automáticos. La responsabilidad última siempre recae en los operadores. Por último, en el punto IV, se disponen las Directrices Generales: a) Uso complementario: La IAGen debe considerarse como una herramienta diseñada para complementar el trabajo humano, mejorando la eficiencia en tareas judiciales como la redacción de documentos o la síntesis de información. Sin embargo, nunca debe sustituir el criterio y juicio profesional de los operadores judiciales; b) Comunicación clara y precisa: El modelo responde a la función de entrada de los datos. En el caso de redactar una instrucción para que el modelo genere una respuesta específica (prompt), esta debe ser clara, precisa, concisa y brindar suficientes detalles para que el sistema pueda procesar mejor la instrucción y cumplir adecuadamente con ella. Es útil también brindar un contexto adecuado para que el sistema pueda ajustarse al tema o situación planteada; c) Validación obligatoria: Todos los resultados generados por sistemas de IAGen deben ser revisados por profesionales capacitados antes de ser incorporados en los procesos judiciales. Esto para garantizar que las respuestas sean correctas, relevantes y alineadas con el marco legal aplicable. d) Confidencialidad: Dado que las herramientas de IAGen trabajan con datos sensibles, es crucial implementar medidas estrictas de protección para salvaguardar la información. Esto incluye la anonimización de datos y el uso de plataformas seguras que cumplan con las normativas de privacidad. e) Supervisión: Se debe prohibir la delegación de decisiones judiciales a sistemas automáticos. Aunque la IAGen puede asistir en la generación de ideas o borradores, la decisión final debe recaer siempre en un operador humano que evalúe el contexto específico del caso.

[3] Provincia del Chubut vs. P., R. A. s. Recurso de queja, STJ, Chubut, 13/03/2026, Rubinzal Online, www.rubinzalonline.com.ar, RC J 1586/26.

[4] https://judiciadisticas-development.web.app/proyectos/anonimización.

*El autor es abogado, docente y actualmente se desempeña como juez federal en Reconquista. En febrero de 2026 fue elegido como ministro de la Corte Suprema de Justicia de Santa Fe.

Este artículo fue originalmente escrito para la editorial Rubinzal Culzoni.