EU:s nya AI-lag – det måste företagen göra nu

Permanent övervakning blir ett krav

Ett av de största skiftena med de nya EU-reglerna för AI är kravet på kontinuerlig övervakning. Företag kan inte längre nöja sig med en engångscertifiering, utan måste implementera en ständig säkerhetsrutin känd som DevSecOps.

I praktiken betyder detta att man måste bygga system som automatiskt kan övervaka, logga, uppdatera och rapportera säkerhetsläget i realtid.

Detta skifte kräver stora investeringar i resurser och är den troligen svåraste delen att införa.

Företag behöver troligen sätta ihop särskilda AI-säkerhetsteam och automatiserad infrastruktur, vilket leder till höga löpande kostnader. Detta öppnar samtidigt upp för nya möjligheter för externa säkerhetsleverantörer som kan bistå mindre och medelstora företag i deras omställning.

Den nya lagen är dessutom ett komplement till befintlig lagstiftning som GDPR och NIS2, vilket kräver en helhetssyn på efterlevnaden.

Teknikjättarna vann: Nya AI-lagen slopar avgörande säkerhetskrav

Den mäktiga tech-industrin har fått sin vilja igenom. Kaliforniens nya AI-lag skrotar de tuffaste säkerhetskraven efter intensiv lobbyism.

Stegen mot att följa AI-förordningen

För att uppfylla de nya lagkraven måste företag först klassificera sina AI-system baserat på risknivå och göra en noggrann analys för att identifiera potentiella brister.

När högrisk-systemen är identifierade, kan arbetet med att granska befintliga säkerhetskontroller mot de nya kraven påbörjas.

Nästa kritiska åtgärd är att upprätta robusta styrgrupper för AI. Dessa team måste bestå av experter inom områden som juridik, etik, säkerhet och data. Deras uppgift blir att skapa tydliga rutiner för alla ändringar som görs i AI-systemen.

Säkerhet och efterlevnad måste vara integrerade delar av utvecklingsprocessen från första början.

En komplex del är samarbetet med tredjepartsleverantörer. AI-förordningen ökar trycket på företag att vara extremt noggranna med val av partners.

Det krävs att man skaffar sig avtalsmässiga säkerhetsgarantier för alla externa komponenter och tjänster.

Det förväntas att marknaden för specialiserade tjänster för just denna del kommer att växa. Det är dock viktigt att undvika leverantörer som lovar enkla lösningar utan den djupa tekniska kunskap som krävs.

Larmet: Hemlig digital attack tömmer ambassaderna

En hemlig operation har riktats mot Mellanöstern och Sydasien, där avancerad skadlig kod använts för att stjäla digital kommunikation.

Global effekt av lagstiftningen

En stor positiv effekt med förordningen är att den skapar en gemensam hög säkerhetsnivå för AI inom hela EU. Betoningen på säkerhet genom design – att säkerheten integreras i systemet från grunden – är avgörande.

Detta förstärks av strängare krav på transparens, bland annat genom obligatorisk rapportering av incidenter och loggning.

En utmaning är att hoten utvecklas snabbt, vilket riskerar att de nuvarande reglerna snabbt kan bli omoderna och kräver ständiga uppdateringar. Även bristen på specialiserad personal och finansiella medel hos nationella tillsynsmyndigheter kan försvåra en effektiv implementering och övervakning.

Denna lagstiftning förväntas ha global inverkan och inspirera till liknande säkerhetsförbättringar i AI-system världen över.

För företagen betyder detta att efterlevnad inte längre kan ses som en enkel administrativ uppgift, utan som en grundläggande omstrukturering av hur AI-system utvecklas och säljs.

Dold affär gav AI-bolaget hisnande rekordvärdering

Den nya AI-jättens värdering skjuter i höjden. En aktieförsäljning för anställda gör bolaget värdefullare än SpaceX.

Missa inte:

S miljardsatsar på äldreomsorg och pensionärer. News 55

Därför bärgas män oftare än kvinnor – Expert förklarar. E55

Nytt superminne krossar allt: AI-chippet med 16 384 processorer. Dagens PS