AI-bolaget Anthropic rådfrågar advokatbyråer om hur AI-agenter ska företräda människor i förhandlingar. Frågan är hur en maskin ska vara lojal mot sin klient utan att köra över motparten.
AI ska förhandla din lön – Anthropic tar hjälp av advokater
Anthropic, bolaget bakom AI-modellen Claude, för samtal med advokatbyråer om ett problem som saknar tydlig förebild: hur AI-agenter ska förhandla för att få bästa möjliga affär åt den människa de företräder. Det rapporterar Financial Times.
Enligt två personer med insyn som tidningen talat med vill bolaget förstå hur advokater agerar vid förhandlingsbordet, alltså hur de driver sin klients sak och samtidigt respekterar att utfallet ska vara rimligt.
Missa inte: Vill utmana svenska miljardsuccén Legora – avslöjas av tabbe i internt mejl. Realtid
Det gäller allt från att pruta på en vara och lösa tvister med kundtjänst till att förhandla fram ett bättre lönebud.
Ett signerat uppdrag
En idé som Anthropic har undersökt är att låta användaren skriva under ett dokument som bekräftar agentens uppdrag och vilka regler den ska följa, enligt en person nära bolaget som FT talat med. Juridiskt påminner det om en fullmakt.
Läs även: AI vidgar klyftan på jobbet – självlärda drar ifrån kollegorna. Dagens PS
Bolaget väger också hur ofta agenten ska stämma av med sin uppdragsgivare under en förhandling, och hur misstänksam den ska vara mot andra AI-agenter utan att bli ”paranoid”, enligt samma källa.
Redan i april konstaterade Anthropic att de policymässiga och rättsliga ramverken för AI som gör affärer åt oss ännu inte finns. Anthropic ville inte kommentera uppgifterna för FT.
Satsningen sker samtidigt som bolaget förbereder vad som kan bli historiens största börsnotering, med AI-agenter i centrum av strategin.
Hänsynslös vann – knappt
Bakgrunden är experiment där Claude-agenter fått förhandla om riktiga varor. I september lät Anthropic 201 anställda på sex kontor byta böcker via AI-agenter på ett digitalt handelsgolv. Hälften av agenterna instruerades att vara hänsynslösa, hälften att även se till att alla fick en bok de gillade.
Missa inte: Rapport: Unga svenskar tror på utbildning trots en osäker framtid. Realtid
De hänsynslösa agenterna kom något bättre ut. Men skillnaden var liten, framgår av Anthropics egen rapport: 0,02 på en skala från 0 till 1. Att uppgradera agenten från bolagets billigaste modell Haiku till den kraftfullare Opus gav ett sex gånger så stort lyft. Vilken modell agenten kör på spelade alltså större roll än hur den instruerades.
Samma mönster syntes i ett tidigare försök, Project Deal, där starkare modeller fick bättre affärer utan att deltagarna märkte skillnaden.
I rapporten jämför forskarna med reglerna för mänskliga ombud. En amerikansk aktiemäklare måste söka bästa tillgängliga pris, och mäklare och rådgivare måste klara licensprov. AI-agenter kan behöva motsvarande certifiering, plus ett test av att agenten faktiskt förstått sin klient, skriver forskarna.
Risk för ojämlik förhandlingsstyrka
Även akademin har tagit sig an frågan. Michelle Vaccaro, biträdande professor vid Harvard Business School, har låtit AI-agenter genomföra över 180 000 förhandlingar om bland annat anställnings- och hyresavtal. Studien upptäckte nya taktiker, som att en agent försökte lura motpartens agent att lämna ut privat information genom så kallad prompt injection.
Enligt MIT Sloan, där studien gjordes, presterade varma och empatiska agenter genomgående bättre än kalla och hänsynslösa.
Vaccaro pekar också på en fördelningsfråga. Kraftfulla modeller kan ge förhandlingskompetens till personer som aldrig haft råd med ett ombud. Men om de starkaste agenterna främst blir tillgängliga för dem med mest resurser kan klyftorna i förhandlingsstyrka i stället växa, säger hon till FT.
För advokatbranschen är det ytterligare en front. Realtid har tidigare rapporterat att storbankerna kräver AI-rabatt av sina byråer, och enligt Dagens PS använder nästan nio av tio delägare på svenska byråer redan AI i arbetet.
