Felaktiga rättsfall, påhittad lagstiftning och citat som inte existerar. AI-misstagen hopar sig i domstolarna världen över. och nu slår en amerikansk domare fast att ansvaret inte stannar hos den enskilde juristen.
AI-hallucinationer skakar juridiken – nu krävs chefsansvar
En federal domare i San Francisco har bötfällt en advokatbyrås ledande partner efter att en underordnad jurist lämnat in en inlaga med en falsk rättsfallshänvisning, rapporterar Reuters.
Missa inte: ”Kunder hittar 40 fel som inte är problem” – toppadvokaten om AI. Realtid
Enligt domare Peter Kang räcker det inte att skylla på den som faktiskt använde AI-verktyget, den som leder byrån bär också ansvar.
”Chefer på advokatbyråer har en skyldighet att vidta rimliga åtgärder för att säkerställa att alla jurister på byrån gör korrekta framställningar till domstolen, skriver Kang i sitt beslut.
Den ansvarige partnern, Lenden Webb, fick en formell tillrättavisning, böter på 1 001 dollar samt krav på att genomgå utbildning i både ledarskap och etisk AI-användning.
Webb erkände inför rätten att han inte granskat inlagan trots att hans namn stod på den, och trots att han läst en ansvarsfriskrivning från AI-leverantören om risken för fel.
Elitbyrå tvingades backa
Fallet i San Francisco är inte isolerat. I april i år tvingades den ansedda Wall Street-byrån Sullivan & Cromwell erkänna att en inlaga till en federal konkursdomstol i New York innehöll flera AI-genererade felaktigheter.
Läs även: Misstankarna mot Günther Mårder – ska ha läckt: ”Uppsåtligt”. Dagens PS
Det rörde sig om en process kopplad till Prince Group och anklagelser om bedrägerier och penningtvätt.
Felen, som inkluderade felciterade rättsfall och missvisande lagtolkningar, upptäcktes av motpartens jurister. Byrån uppgav att interna riktlinjer för AI-användning inte hade följts, och har sedan dess korrigerat materialet.
Även svenska jurister drabbade
Problemen är inte begränsade till USA.
I Sverige sågade en tingsrätt nyligen en jurist som i sina inlagor hänvisade till domar från Högsta domstolen som visade sig vara helt fabricerade, genererade av ett AI-verktyg utan att juristen kontrollerat uppgifterna.
Missa inte: Svensk AI-expert: Vi glider in i en farlig bekvämlighetskultur. Realtid
Tingsrätten ifrågasatte även juristens yrkande om 2 100 kronor i timmen och pekade på både märkligt språkbruk och påhittad lagstiftning i inlagorna.
En nordisk studie som Dagens Juridik tidigare rapporterat om visar att åtta av tio jurister anser sig sakna tillräcklig utbildning för att använda AI effektivt i sitt arbete, trots att de flesta ställer sig positiva till tekniken.
