La Inteligencia Artificial (IA) generativa, como ChatGPT está cambiando la forma en que los profesionales del derecho realizan tareas diarias, desde la redacción de documentos hasta la investigación legal. Sin embargo, este avance tecnológico conlleva riesgos significativos que los abogados y otros profesionales del sector legal deben tener en cuenta al utilizar estas herramientas. En este artículo, exploramos los peligros de confiar ciegamente en la IA generativa, ilustrados por un caso judicial en España, y ofrecemos recomendaciones para su uso seguro en el ámbito jurídico.
Riesgos clave del uso de IA generativa en el sector legal
1. Citas judiciales falsas o erróneas
Uno de los riesgos más evidentes del uso de la IA generativa en el ámbito jurídico es la posibilidad de obtener citas legales falsas o incorrectas. La IA, aunque avanzada, puede generar información errónea que parece auténtica a simple vista, lo que se conoce como “alucinaciones” de la inteligencia artificial. Es fundamental que los abogados verifiquen todas las fuentes y citas generadas por IA antes de incorporarlas en documentos legales.
2. Jurisprudencia extranjera inapropiada
Las herramientas de IA generativa pueden ofrecer referencias a normativas extranjeras que no son aplicables a la legislación nacional. Esto puede resultar en la inclusión de citas legales irrelevantes en procedimientos locales, lo que podría comprometer la validez de los documentos y afectar el resultado del caso. Es crucial que los profesionales del derecho utilicen la IA con cautela y ajusten los resultados a la normativa y jurisprudencia locales.
3. Filtración de datos confidenciales
El uso de IA generativa en plataformas abiertas plantea riesgos significativos para la privacidad y la confidencialidad de la información. Al proporcionar datos sensibles a estas plataformas, existe el peligro de que los mismos sean utilizados para entrenar futuros modelos de IA, lo que podría llevar a la filtración de información confidencial. Los profesionales del derecho deben ser extremadamente cautelosos al introducir datos sensibles en estas herramientas y considerar las implicaciones de privacidad.
4. Dependencia excesiva de la IA
Aunque la IA generativa puede automatizar tareas jurídicas, como la redacción de documentos o la búsqueda de jurisprudencia, no debe reemplazar la supervisión profesional. El 44% de las tareas legales pueden ser automatizadas con IA, pero no todas son aptas para delegarse completamente en sistemas automáticos. Las decisiones críticas deben seguir siendo responsabilidad de los abogados, quienes deben aplicar su conocimiento y juicio profesional para garantizar la calidad y la precisión del trabajo legal.
Un ejemplo de los peligros de la IA generativa en la abogacía
Recientemente, un abogado español presentó una querella que incluía una cita legal del Código Penal colombiano. Según reconoció él mismo en un escrito posterior, la referencia fue facilitada por ChatGPT3 y cometió tal «error material grosero e involuntario» «debido a un manejo inadecuado por parte de su despacho del sistema de inteligencia artificial«, por lo que se excusó por escrito.
El TSJ abrió una pieza separada para investigar si el abogado había incurrido en abuso de derecho o mala fe procesal. A pesar del error, el tribunal decidió archivar la causa sin imponer sanciones económicas, destacando la rápida disculpa del abogado y la novedad del tema.
El TSJ abrió una pieza separada para investigar si el abogado había incurrido en abuso de derecho o mala fe procesal. A pesar del error, el tribunal decidió archivar la causa sin imponer sanciones económicas, destacando la rápida disculpa del abogado y la novedad del tema.
La IA generativa: una revolución, pero no un sustituto del profesional jurídico
Este auto subraya la importancia de verificar toda la información proporcionada por herramientas de IA generativa y lanza una advertencia ética a los profesionales del derecho: «Sirviendo la presente -quizá- de advertencia de las implicaciones legales, deontológicas y éticas que puede plantear el uso descuidado de las nuevas tecnologías”.
La IA generativa es una revolución, por su capacidad de procesamiento, pero en ningún caso debe reemplazar al profesional, ya que la capacidad de filtrar la información y adaptarla al contexto legal específico sigue siendo una tarea exclusiva del abogado.
Recomendaciones para el uso seguro de la IA generativa en el derecho
- Verificación de fuentes. Es fundamental confirmar siempre que la información proporcionada por la IA es precisa, relevante y actualizada. Se recomienda utilizar solo fuentes confiables y comprobar que cualquier cita legal sea aplicable a la legislación local.
- Protección de datos. No se debe incluir información confidencial o sensible en plataformas de IA generativa, especialmente en aquellas de acceso público. Además, es recomendable utilizar solo herramientas de IA que garanticen altos estándares de privacidad y seguridad.
- Supervisión profesional. Aunque la IA puede facilitar muchas tareas, no debe sustituir el juicio profesional. Los abogados deben revisar y aprobar todo el trabajo generado por estas herramientas antes de utilizarlo en el ejercicio de su práctica.
- Formación continua. Los profesionales del derecho deben mantenerse actualizados sobre las mejores prácticas y los avances en la IA, así como las implicaciones legales y éticas de su uso en el ámbito jurídico.
La inteligencia artificial generativa ofrece muchas oportunidades para mejorar la eficiencia en el sector legal, pero también plantea riesgos significativos que no deben ser ignorados. Casos como el reciente incidente en España sirven como una advertencia para todos los profesionales del derecho sobre los peligros de confiar ciegamente en estas herramientas.
En ELZABURU, apostamos por el uso responsable de la tecnología en el sector legal, siempre con la supervisión y el criterio de nuestros profesionales. La IA puede ser una gran aliada, pero la última palabra siempre debe estar en manos del experto jurídico.
