AI har blivit ett hot mot det globala finansiella systemet. Det skriver Bank of Englands chef Andrew Bailey i ett brev till G20:s finansministrar. Sverige fick samma besked från EU redan i juli.
AI-modellerna hotar finansiell stabilitet – Bailey varnar G20
Financial Stability Board (FSB) publicerade på måndagen ett brev från ordföranden Andrew Bailey till G20:s finansministrar och centralbankschefer inför deras möte i Asheville, North Carolina.
Bailey är samtidigt chef för Bank of England.
”Autonomi och hotförmåga”
Riskbilden har komplicerats av framväxten av frontier-modeller, som enligt Bailey uppvisar allt mer sofistikerad autonomi och problemlösningsförmåga, men också förmåga att hota.
Missa inte: Techjättarna varnar: månader kvar innan AI-attackerna tar över. Realtid
Den mest omedelbara oron är vad tekniken gör med cyberrisken.
Bailey skriver i det två sidor långa brevet att många jurisdiktioner saknar rutiner för att hantera utveckling, släpp och driftsättning av avancerade frontier-modeller, vilket höjer risken för finanssektorn, skriver The Guardian.
Han pekar särskilt på att cyberstörningar kan sprida sig över landsgränser i ett tätt sammankopplat system.
Bailey uppmanar länderna att prioritera säkra och ansvarsfulla modellsläpp. Finansiella företag uppmanas i sin tur att säkerställa förmågan att svara och återhämta sig efter incidenter, samt motståndskraften hos kritiska tredjepartsleverantörer.
Belåningen är den nya varningen
Brevet handlar inte bara om cyberhot.
Bailey varnar också för att marknaderna är sårbara för en oordnad korrigering, givet svagheter på statsobligationsmarknaderna, sårbarheter i private credit och höga tillgångsvärderingar, inte minst i AI-relaterade investeringar.
Läs även: Elon Musk över Sam Altmans hämnd: ”Bryr mig inte – han är opålitlig”. Dagens PS
Den ökade belåningen på aktiemarknaden samverkar med höga värderingar, marknadskoncentration och AI-optimism på ett sätt som kan förstärka en framtida korrigering.
Cyberspåret har FSB drivit sedan i våras, medan kopplingen mellan hävstång, koncentration och AI-optimism är skarpare formulerad än tidigare.
Sverige har redan agerat
För svensk del är budskapet inte nytt.
Europeiska systemrisknämnden (ESRB) höjde i juni sin bedömning av den systemiska cyberrisken från ”förhöjd” till ”allvarlig” och utfärdade en formell varning om frontier-modeller.
Missa inte: Nu kräver styrelserna svar: Vad får jag egentligen för AI-pengarna? Realtid
Samtidigt begärde ECB in handlingsplaner från de omkring 110 banker som står under direkt tillsyn, med deadline den 31 oktober.
Riksbanken och Finansinspektionen sitter båda i ESRB:s styrelse och ställde sig bakom varningen.
”Dessa risker följer ofta inte landsgränserna, och i en värld med geopolitiska spänningar blir frågan än mer komplicerad”, sade riksbankschef Erik Thedéen då.
FI:s generaldirektör Johan Almenberg var mer rakt på sak, företagen behöver utgå från att störningar kommer att inträffa och bygga operativ motståndskraft därefter säger han.
FSB uppger nu att man ser över vilka steg organisationen kan ta inom sitt mandat.
