Amerikanska jurister förlitar sig i allt större utsträckning på AI i sitt arbete. Vilket gjort att allt fler så kallade hallucinationer nu också söker sig in i domstolarna.
AI-hallucinationer sprider sig i domstolarna
Johan Colliander
Uppdaterad: 28 maj 2025Publicerad: 28 maj 2025
ANNONS
ANNONS
Mest läst i kategorin
Juridiken var snabb på att ta till sig artificiell intelligens när de första modellerna som ChatGPT och liknande blev allmänt tillgängliga för två år sedan. Men problemen följde med direkt.
AI kan nämligen hitta ”hallucinera” svar som ser riktiga ut men som i verkligheten är helt påhittade. I juridiska dokument som skickas in till domstolarna tar det sig uttryck i citeringar till rättsfall som helt enkelt inte finns.
Missa inte: AI kan skjuta advokattaxor i höjden – experter spår tiodubbling. Realtid
Problemet med AI-hallucinationer har dessutom ökat med tiden. Enligt en sammanfattning som datanalytikern Damien Charlotin utfört upptäcktes 10 fall av hallucinationer 2023, 37 2024 och hela 73 bara under de fem första månaderna 2025, rapporterar Business Insider.
Google satsar stort på AI: Ny sökfunktion till Sverige
Sverige får AI-översikter i Sök och Gemini driver innovationen framåt.
Används av större aktörer
Tidigare har det främst varit personer som representerat sig själva som använt sig av artificiell intelligens och åkt dit för hallucinationer.
Enligt Charlotins data var det 7 av 10 fel som begicks av självrepresenterade och resten jurister. Förra månaden var det snarare 13 av 23 av de som uppdagats med felaktig AI-användning jurister.
ANNONS
Trenden har på kort tid gått från enskilda aktörer, till mindre byråer till att nu även mellanstora och stora advokatbyråer åker dit för hallucinationer. Nyligen erkände advokater på K&L Gates and Ellis George att de använt delvis påhittade fall i sin dokumentation. De erlades böter om 31 000 dollar.
”Fall av advokater eller rättstvister som av misstag har citerat hallucinerade fall har nu bli en ganska vanlig trop”, säger Charlotin på sin hemsida.
ANNONS
Senaste nytt
AI försvarade AI
Ett uppmärksammat fall där AI använts felaktigt är, ironiskt nog, ett där ett annat AI-bolag varit inblandat.
Antrophic har anklagats av Universal Music Groups för att ha använt sig av copyrightskyddat material för genererande av musiktexter. Det har framkommit att bolagets advokater på firman Latham & Watkins använt sig av en felaktig notering som hallucinerats fram av AI, skriver Reuters.
Enligt Universal Music Groups advokat handlar felet om mer än en felaktig notering. Enligt dem ska Anthropic även ha använt sig av en AI-genererad källa för att stärka sitt argument i rätten.
AI kan skjuta advokattaxor i höjden – experter spår tiodubbling
Juristernas timdebiteringar kan nå svindlande nivåer när AI revolutionerar branschen.
ANNONS
Potential finns
Problemen med hallucinerande AI:s ser ut att bara öka – och det är inte mycket som tyder på att de kommer att sluta att användas. Fördelarna i intjänad arbetstid, med höga timkostnader för juristhjälp. uppväger i många fall nackdelarna.
Inte minst när det kommer till pro bono-arbete i fattiga länder, där jurister nu bland annat kommer få ännu mindre resurser efter Trumps neddragningar. UNHCR har därför börjat undersöka AI-lösningar för att hjälpa flyktingar med sina frågor och ansökningar, skriver Financial Times.
Läs även: Stora risker när AI ska tänka själv: ”Glömmer andra uppgifter”. Realtid
Daniel Linna, universitetslektor och chef för juridik och teknikinitiativ vid Northwesterns jurist och ingenjörsskola, tror att problemet delvis beror på bristande utbildning, skriver Reuters.
Han tror att potentialen finns att AI kan, trots riskerna, förbättra kvaliteten på juridiken framöver.
Dagens ungdom: Allt fler studenter stängs av för fusk med AI
Stockholms Universitet ser en tydlig ökning.
Läs mer från Realtid - vårt nyhetsbrev är kostnadsfritt:
Johan Colliander
Mångårig ekonomijournalist. Tidigare på Dagens Industri, Fri Köpenskap, Food Supply och Fastighetsvärlden.
Johan Colliander
Mångårig ekonomijournalist. Tidigare på Dagens Industri, Fri Köpenskap, Food Supply och Fastighetsvärlden.
ANNONS
ANNONS
Senaste nytt
ANNONS
ANNONS