Att använda AI är något som Goldman Sachs gärna förespråkar. Men det kommer med risker för de anställda, menar en högt uppsatt chef.
Goldman Sachs-chef varnar för dummare bankanställda: "Enorm fara"
AI kan göra finansbranschen effektivare men samtidigt försvaga nästa generations bankanställdas förmåga att tänka självständigt.
Den varningen kommer från Chris Churchman, partner på Goldman Sachs och chef för bankens digitala plattform Marquee.
Churchman, som även leder en arbetsgrupp för AI inom Goldman Sachs globala bank- och marknadsverksamhet, menar att det finns en risk att anställda börjar överlåta allt mer av sitt analytiska arbete till AI-modeller.
”Enorm fara”
På sikt kan det leda till att medarbetarnas förmåga att själva bryta ned komplexa problem och fatta beslut försämras.
”Det finns en enorm fara här att vi i AI:s era outsourcar vårt resonemang till dessa modeller, och vi får kognitiv atrofi som hindrar oss från att själva kunna resonera utifrån grundläggande principer”, säger Chris Churchman, enligt CNBC.
Problemet blir särskilt tydligt för yngre medarbetare.
Traditionellt har Wall Street byggt mycket av sin kompetens genom en lärlingsmodell där juniora analytiker och traders får utföra praktiska uppgifter under övervakning av mer erfarna kollegor.
Går att automatisera mycket
AI kan nu automatisera många av dessa uppgifter. Det kan ge banker lägre kostnader och högre produktivitet, men samtidigt minska möjligheterna för yngre medarbetare att utveckla den erfarenhet som krävs för att senare ta mer avancerade beslut.
Churchman pekar på att mycket av kunskapen på finansmarknaden är så kallad tyst kunskap, som sällan finns nedskriven i manualer.
Den byggs i stället upp genom praktiskt arbete och genom att se hur erfarna kollegor hanterar situationer.
Ett annat problem är AI-modellernas träffsäkerhet. Goldman arbetar med att integrera AI i Marquee, som används av institutionella kunder för bland annat marknadsdata, analys, riskhantering och handel.
Läs mer: Goldman: AI pressar ingångsjobben i Europa. Realtid
Letar efter rätt balans
Plattformens AI-funktioner är än så länge endast tillgängliga internt på Goldman.
För banken är det avgörande att AI-systemen kan ge korrekta och kontrollerbara svar. Fel som kan accepteras i vanliga konsumenttjänster är betydligt svårare att tolerera inom finans, där beslut kan få stora ekonomiska konsekvenser.
Churchman anser därför att människor även framöver måste ha kontrollen över beslut med hög risk och stor osäkerhet.
Goldman Sachs har ännu inte hittat den perfekta balansen mellan automatisering och mänsklig expertis, menar han.
Läs mer: Ungt stjärnskott blir OpenAI:s första rekrytering i Stockholm. Dagens PS
