Vinculan fallos inexistentes al uso de inteligencia artificial

 Antes de resolver una apelación en una causa civil, les pidió explicaciones a dos abogados. Uno adujo un "error de pluma" y el otro, un problema al consultar la revista doctrinaria. La Cámara Civil de Roca no solo remitió el caso al tribunal de ética del Colegio de Abogados, sino que también anuló su intervención en la instancia y resolvió no pagarles honorarios.

Las citas cuestionadas aparecieron en los escritos presentados por los abogados del cliente y de una de las demandadas, DMX2 S.A., concesionaria oficial de la marca Peugeot. En total, se detectaron 26 fallos inexistentes: 20 en el escrito del cliente y 6 en el de la codemandada.

La Cámara advirtió que, tras una búsqueda exhaustiva en la Biblioteca del Poder Judicial y en los registros del Superior Tribunal de Justicia, ninguna de las citas pudo ser verificada. Por eso solicitó a los letrados que indicaran las fuentes de las citas textuales atribuidas a tribunales rionegrinos.

La respuesta de los abogados no aportó claridad. El representante del cliente admitió que se trataba de un “error material de pluma o de redacción” y aclaró que esas citas no formaban parte sustancial de sus argumentos. El abogado de la concesionaria sostuvo que “no se pudo acceder a la revista doctrinaria utilizada” para verificar si los precedentes existían y pidió que se tuvieran por retiradas.

La Cámara consideró que ambos letrados, aunque no lo reconocieron expresamente, probablemente recurrieron al uso de herramientas de inteligencia artificial generativa. Y si no fue así —señaló el fallo—, y las citas fueron directamente inventadas por los abogados, “la conducta resultaría mucho más grave aún”, ya que equivaldría a intentar inducir a error al tribunal con precedentes fabricados.

“El uso de chatbots de inteligencia artificial generativa constituye una herramienta más que puede coadyuvar en el trabajo diario”, expresaron los jueces. Pero advirtieron que los resultados “deben ser indefectiblemente cotejados”, ya que muchas veces “incluyen las denominadas ‘alucinaciones’ y por ello aparecen fuentes lisa y llanamente inexistentes e inventadas”.

Aunque no se impusieron sanciones disciplinarias formales, la Cámara hizo un “severo llamado de atención” a ambos profesionales. Subrayó que el uso de nuevas tecnologías en la práctica legal debe estar sujeto a control humano, verificación responsable y respeto por las normas éticas que rigen el ejercicio de la abogacía. También se resolvió remitir copia de la resolución al Colegio de Abogados para que la situación sea puesta en conocimiento de los colegiados y se promuevan acciones preventivas.