La Intel·ligència Artificial (IA) generativa, com Xat GPT està canviant la manera com els professionals del dret realitzen tasques diàries, des de la redacció de documents fins a la investigació legal. Tot i això, aquest avenç tecnològic comporta riscos significatius que els advocats i altres professionals del sector legal han de tenir en compte en utilitzar aquestes eines. En aquest article, explorem els perills de confiar cegament en la IA generativa, il·lustrats per un cas judicial a Espanya, i oferim recomanacions per a ús segur en l'àmbit jurídic.
Riscos clau de l'ús d'IA generativa al sector legal
1. Cites judicials falses o errònies
Un dels riscos més evidents de l'ús de la IA generativa a l'àmbit jurídic és la possibilitat d'obtenir cites legals falses o incorrectes. La IA, encara que avançada, pot generar informació errònia que sembla autèntica a simple vista, cosa que es coneix com “al·lucinacions"de la intel·ligència artificial. És fonamental que els advocats verifiquin totes les fonts i cites generades per IA abans d'incorporar-les en documents legals."
2. Jurisprudència estrangera inapropiada
Les eines de IA generativa poden oferir referències a normatives estrangeres que no són aplicables a la legislació nacional. Això pot resultar en la inclusió de cites legals irrellevants en procediments locals, cosa que podria comprometre la validesa dels documents i afectar el resultat del cas. és crucial que els professionals del dret utilitzin la IA amb cautela i ajustin els resultats a la normativa i jurisprudència locals.
3. Filtració de dades confidencials
L'ús d'IA generativa a plataformes obertes planteja riscos significatius per a la privadesa i la confidencialitat de la informació. En proporcionar dades sensibles a aquestes plataformes, hi ha el perill que aquests siguin utilitzats per entrenar futurs models d'IA, cosa que podria portar a la filtració d'informació confidencial. Els professionals del dret han de ser extremadament cautelosos en introduir dades sensibles en aquestes eines i considerar les implicacions de privadesa.
4. Dependència excessiva de la IA
Tot i que la IA generativa pot automatitzar tasques jurídiques, com ara la redacció de documents o la recerca de jurisprudència, no ha de reemplaçar la supervisió professional. El 44% de les tasques legals poden ser automatitzades amb IA, però no totes són aptes per delegar-se completament en sistemes automàtics. Les decisions crítiques han de continuar sent responsabilitat dels advocats, els qui han d'aplicar el seu coneixement i judici professional per garantir la qualitat i la precisió del treball legal.
Un exemple dels perills de la IA generativa a l'advocacia
Recentment, un advocat espanyol va presentar una querella que incloïa una cita legal del Codi Penal colombià. Segons va reconèixer ell mateix en un escrit posterior, la referència va ser facilitada per ChatGPT3 i va cometre tal «error material groller i involuntari» «a causa d'un maneig inadequat per part del despatx del sistema d'intel·ligència artificial«, de manera que es va excusar per escrit.
El TSJ va obrir una peça separada per a investigar si l'advocat havia incorregut en abús de dret o mala fe processal. Tot i l'error, el tribunal va decidir arxivar la causa sense imposar sancions econòmiques, destacant la ràpida disculpa de l'advocat i la novetat del tema.
El TSJ va obrir una peça separada per investigar si l?advocat havia incorregut en abús de dret o mala fe processal. Tot i l'error, el tribunal va decidir arxivar la causa sense imposar sancions econòmiques, destacant la ràpida disculpa de l'advocat i la novetat del tema.
La IA generativa: una revolució, però no un substitut del professional jurídic
Aquest acte subratlla la importància de verificar tota la informació proporcionada per eines de IA generativa i llança un advertiment ètic als professionals del dret: «Servint la present -potser- d'advertiment de les implicacions legals, deontològiques i ètiques que pot plantejar l'ús descuidat de les noves tecnologies”.
La IA generativa és una revolució, per la seva capacitat de processament, però en cap cas no ha de reemplaçar el professional, ja que la capacitat de filtrar la informació i adaptar-la al context legal específic continua sent una tasca exclusiva de l'advocat.
Recomanacions per a l'ús segur de la IA generativa al dret
- Verificació de fonts. És fonamental confirmar sempre que la informació proporcionada per la IA és precisa, rellevant i actualitzada. Es recomana utilitzar només fonts de confiança i comprovar que qualsevol cita legal sigui aplicable a la legislació local.
- Protecció de dades. No s'ha d'incloure informació confidencial o sensible a plataformes d'IA generativa, especialment a aquelles d'accés públic. A més, és recomanable utilitzar només eines de IA que garanteixin alts estàndards de privadesa i seguretat.
- Supervisió professional. Tot i que la IA pot facilitar moltes tasques, no ha de substituir el judici professional. Els advocats han de revisar i aprovar tota la feina generada per aquestes eines abans d'utilitzar-la en l'exercici de la pràctica.
- Formació continuada. Els professionals del dret s'han de mantenir actualitzats sobre les millors pràctiques i els avenços a la IA, així com les implicacions legals i ètiques del seu ús en l'àmbit jurídic.
La intel·ligència artificial generativa ofereix moltes oportunitats per millorar l'eficiència al sector legal, però també planteja riscos significatius que no han de ser ignorats. Casos com el recent incident a Espanya serveixen com una advertència per a tots els professionals del dret sobre els perills de confiar cegament en aquestes eines.
A ELZABURU, apostem per l'ús responsable de la tecnologia al sector legal, sempre amb la supervisió i el criteri dels nostres professionals. La IA pot ser una gran aliada, però l'última paraula sempre ha d'estar a les mans de l'expert jurídic.
