Inlagan lämnades in av toppadvokater, men innehöll flera märkliga felaktigheter. Nu har byrån tvingats backa och ge en förklaring.
Elitbyråns pinsamma fadäs: Lämnade in AI-hallucinationer
Den amerikanska advokatbyrån Sullivan & Cromwell har traditionellt haft ett gott renommé och deras tjänster kan kosta mer än 2 000 dollar i timmen.
Men nu har man trampat rejält i klaveret.
Sullivan & Cromwell har erkänt att en inlaga till en federal domstol innehöll flera fel som uppstått genom användning av artificiell intelligens.
Flera olika fel
Händelsen lyfts i media fram som ett av de tydligaste exemplen hittills på riskerna med att använda AI i avancerat juridiskt arbete.
Felen upptäcktes i ett dokument som lämnats in till en konkursdomstol i New York.
Byrån uppgav att texten innehöll så kallade hallucinationer, där AI-verktyg genererat felaktiga formuleringar, missvisande tolkningar av lagtext samt hänvisningar till rättsfall som antingen citerats fel eller inte existerar, skriver Financial Times.
Rörde en stor konkurs
Den aktuella processen rör en omfattande internationell konkurs kopplad till Prince Group, ett bolag registrerat i Brittiska Jungfruöarna.
Fallet har kopplingar till anklagelser om bedrägerier och penningtvätt, där amerikanska myndigheter försöker säkra tillgångar och ge stöd åt fordringsägare.
Den felaktiga inlagan gällde frågan om vilka befogenheter som utländska likvidatorer ska ha i det amerikanska rättssystemet.
Har gjort ändringar
Enligt byrån följdes inte interna riktlinjer för användning av AI när dokumentet togs fram.
Företaget har i efterhand korrigerat materialet och signalerat att ytterligare åtgärder kan behövas för att stärka kontrollen av AI-genererat material.
Händelsen aktualiserar frågor om ansvar och kvalitetssäkring i en bransch där noggrannhet är avgörande, skriver The Guardian om händelsen.
Upptäcktes av motparten
Felen uppmärksammades av motpartens juridiska ombud, som identifierade brister i citat och rättsreferenser. Det ledde till att byrån tvingades granska och revidera sitt material inför domstolen.
Utvecklingen speglar en bredare trend där advokatbyråer i allt större utsträckning använder AI för att effektivisera research och dokumenthantering.
Samtidigt har flera liknande incidenter inträffat det senaste året, där juridiska dokument innehållit felaktigheter kopplade till automatiserade verktyg.
Läs mer: Studie: Chefen övervakar dig mer än vad du tror. Dagens PS
