În fața Curții Supreme din statul Victoria, un avocat a recunoscut că a depus concluzii ce conțineau referințe juridice inventate de un algoritm. Rishi Nathwani, deținător al titlului prestigios de King’s Counsel, și-a asumat întreaga responsabilitate pentru prezentarea unor citate false într-un dosar penal.
„Regret profund și sunt umilit de situație”, a declarat avocatul în numele echipei sale de apărare. Materialele eronate includeau citate din discursuri parlamentare care nu existau și decizii judecătorești fictive atribuite instanțelor superioare.
Erorile au fost sesizate de reprezentanții instanței care, în încercarea de a verifica sursele, au constatat imposibilitatea identificării acestora. În documentele judiciare se menționează că avocații au recunoscut că unele dintre citate erau „fictive” și „inexistente”.
Deși inițial au verificat parțial conținutul, echipa de apărare a presupus în mod eronat că toate referințele generate automat erau corecte. Acest lucru a condus la amânarea cu o zi a soluționării cauzei.
Instanța a stabilit, în cele din urmă, că clientul – un minor acuzat de crimă – nu poate fi tras la răspundere din cauza unor probleme de sănătate mintală.
Judecătorul a evidențiat pericolul pe care il prezintă utilizarea necontrolată a tehnologiei în justiție. „Acuratețea memoriilor depuse de avocați este esențială pentru buna funcționare a sistemului juridic”, a afirmat el.
S-a menționat că instanța a emis anul trecut recomandări specifice privind utilizarea instrumentelor automate, subliniind că orice material generat cu ajutorul inteligenței artificiale trebuie verificat independent înainte de a fi prezentat.
Acest caz se alătură unor precedente internaționale. În Statele Unite, doi avocați au fost amendați pentru depunerea de cercetări juridice false generate de un chatbot, iar în Marea Britanie, instanțele au emis avertismente cu privire la riscurile dezinformării automate asupra încrederii publice în justiție.
Problema „halucinațiilor” generate de inteligența artificială – informații aparent credibile, dar false – devine din ce în ce mai pregnantă în sistemul legal, punând sub semnul întrebării integritatea actelor de procedură.
About the Author
