En högt uppsatt åklagare pekade på ett tidigare rättsfall som kunde vägleda domstolen i den pågående rättegången. Det fanns bara ett problem: rättsfallet hade hittats på av AI.
Åklagare hänvisade till påhittad dom – avslöjades i rättsprocess
En åklagare vid den brittiska åklagarmyndigheten CPS hänvisade till ett helt påhittat rättsfall i en process vid High Court.
Misstaget uppges ha uppstått efter en internetsökning med AI-genererade svar.
Det har nu väckt nya frågor om hur artificiell intelligens används inom rättsväsendet i Storbritannien.
Fanns inte
Det var Ravinder Dhillon, senior åklagare vid CPS enhet för våldtäktsbrott och andra grova sexualbrott, som hänvisade till det fiktiva rättsfallet, skriver The Guardian.
Hänvisningen användes i en juridisk argumentation för att försvara beslutet att åtala en pojke som var 11 år när han anklagades för att ha våldtagit sin sjuåriga syster.
Pojkens advokater hade ifrågasatt åtalsbeslutet och menade att åklagarmyndigheten inte hade tagit tillräcklig hänsyn till yttranden från socialarbetare, ungdomsarbetare och en rättspsykolog.
I sitt yttrande hänvisade Dhillon till ett avgörande från 2024 som enligt domstolshandlingarna aldrig hade existerat.
”Allvarligt misslyckande”
I oktober erkände hon att hänvisningen var felaktig och uppgav att hon egentligen hade avsett ett annat, verkligt rättsfall från 15 år tidigare.
Två domare vid High Court beskrev åklagarens förklaring som otillfredsställande. Enligt domstolen påverkade det felaktiga rättsfallet dock inte utgången i pojkens överklagande. Rättegången väntas inledas i ungdomsdomstol senare i veckan.
Brian Flanagan, juridikprofessor vid Maynooth University i Irland, varnar för att AI-genererade felaktiga rättsfallshänvisningar riskerar att undergräva förtroendet för rättssystemet, särskilt när de förekommer i statliga myndigheters arbete.
”Detta användes som en juridisk källa för att argumentera för åtal av ett barn och sedan framkommer det att källan inte existerar. Det är ett allvarligt misslyckande”, säger han till The Guardian.
Läs mer: Vann striden om p-boten – med ChatGPT som advokat. Dagens PS
Blir allt vanligare
Enligt den brittiska advokaten Matthew Lee har antalet dokumenterade, misstänkta och omtvistade AI-relaterade fel i brittiska domstolar nu nått 101.
Han bedömer samtidigt att mörkertalet kan vara betydande eftersom många avgöranden i lägre instanser aldrig publiceras.
CPS uppger att myndigheten har en strikt AI-policy som förbjuder användning av tekniken för juridiska beslut och kräver mänsklig kontroll av uppgifter. Efter incidenten har en intern granskning genomförts.
Läs mer: AI används för att ge råd i skilsmässor – jurister blir allt mer frustrerade. Realtid
