Artificiell intelligens används i allt större utsträckning för att handla varor och förhandla affärer åt oss. Men trots en växande entusiasm från teknikbolagen varnar experter för att systemen ännu inte är mogna för den rollen.
AI börjar shoppa loss – det går sådär
Anthropic, bolaget bakom AI-modellen Claude, har genomfört ett experiment där AI-agenter fick representera 69 anställda på en intern marknadsplats, kallad Project Deal, och köpa och sälja varor sinsemellan med en budget på 100 dollar per person.
Missa inte: Svensk AI-expert: Vi glider in i en farlig bekvämlighetskultur. Realtid
Resultaten var slående, men långt ifrån imponerande, enligt Futurism.
Kunde handla – men inte bra
Agenterna lyckades visserligen sluta 186 avtal för över 500 listade föremål – allt från snowboards och tangentbord till pingisbollar och lampor.
Men affärerna var inte särskilt fördelaktiga: deltagarna bedömde i genomsnitt sina avtal som fyra på en sjugradig skala, ett ”oanmärkligt” resultat som Anthropic själva medger.
Läs även: Analys: Fyra tecken på AI-fest – börsen kan lyfta 30 procent. Dagens PS
En deltagare slutade dessutom med exakt samma snowboard de redan ägde från start. En annan agents AI lade ett udda bud på ”exakt 19” pingisbollar, ”inte 18, inte 20”, och fick affären.
Anthropic erkänner att de rättsliga och politiska ramverken kring AI-agenter som genomför transaktioner för människors räkning ”helt enkelt inte existerar ännu”, vilket gör området riskfyllt.
Agenterna är inte redo
Det är en bild som bekräftas av konsumentexperter. Enligt CBS News är agentic commerce, där AI självständigt genomför köp, ännu långt ifrån redo för bred användning.
Matt Kropp, AI-expert på Boston Consulting Group, är tydlig: ”Det finns inte tillräckligt med skyddsmekanismer i systemet för att folk ska känna sig trygga med att agenter autonomt köper saker åt dem”, säger han till CBS.
Missa inte: Googles nya AI-drag: Lanserar snabba chip. Realtid
Riskerna är konkreta. Andrew Lee, grundare av automatiseringsbolaget Tasklet, berättar för CBS News om en kund vars AI-agent lyckades boka en talartid på World Economic Forum i Davos, för 30 000 dollar, vilket var en summa användaren inte hade råd med. Lee varnar för att AI-agenter i dag är ”fundamentalt svåra att lita på” när det gäller shopping.
Stora säkerhetsrisker
Till detta kommer säkerhetsriskerna. Bretton Auerbach, grundare av LocalMovers.com, förklarar att illvilliga aktörer kan lura AI-agenter att lämna ifrån sig personlig information eller betalningsuppgifter, exempelvis genom falska webbplatser utformade för att se legitima ut.
Läs även: OpenAI-aktier ska ge Softbank lån på 92 miljarder. Dagens PS
Trots varningarna rusar företag som Amazon, Walmart och American Express framåt med egna AI-handelslösningar.
