Attacken från OpenAI-modellerna har fått techbranschen att gunga. Nu skrider de handling för att stoppa fler liknande incidenter.
Efter AI-rymningen – techgiganter går ihop för att stoppa fler
Nvidia lanserar tillsammans med Microsoft, SpaceX, Palantir och ett 40-tal andra teknikbolag en ny allians med fokus på säkerhet för öppna AI-modeller.
Initiativet presenteras efter den uppmärksammade cyberattacken mot AI-plattformen Hugging Face, där ett kinesiskt AI-system spelade en avgörande roll i försvaret.
Vid attacken användes de senaste modellerna från OpenAI.
Använde kinesisk AI
Enligt Nvidia kunde Hugging Face däremot inte använda ledande amerikanska AI-modeller för att försvara sig, eftersom deras säkerhetsmekanismer inte kunde skilja mellan angripare och försvarare.
Företaget valde i stället att använda en egenhostad kinesisk AI-modell med öppna modellvikter, som inte omfattades av samma begränsningar.
Den nya organisationen, Open Secure AI Alliance, ska utveckla och dela öppna AI-verktyg för cybersäkerhet samt identifiera och åtgärda sårbarheter, skriver CNBC.
Enligt Nvidia visar den senaste attacken att cybersäkerhetsaktörer behöver tillgång till avancerade öppna AI-system som kan köras i den egna infrastrukturen.
Läs mer: OpenAI:s vd Sam Altman: ”Vi är redan i singulariteten”. Dagens PS
Kan komma sanktioner
Öppna AI-modeller kan laddas ned, modifieras och köras lokalt, till skillnad från slutna modeller från exempelvis OpenAI och Anthropic, som endast kan användas via leverantörernas egna plattformar.
Samtidigt pågår en politisk diskussion i USA om att begränsa användningen av kinesiska AI-modeller.
Kinesiska AI-bolag har anklagats för så kallad distillation, där modeller tränas genom att utvinna kunskap från mer avancerade AI-system utvecklade av amerikanska företag.
USA:s finansminister Scott Bessent har öppnat för sanktioner mot kinesiska bolag som använder sådana metoder.
Läs mer: Hackare använder billig AI för att ta sig in i system. Realtid
Varnar för reglering
Enligt bedömare kan framtida restriktioner bland annat omfatta förbud mot kommersiella transaktioner med kinesiska AI-modeller eller mot att amerikanska molnleverantörer erbjuder dem till kunder.
Flera teknikbolag har samtidigt varnat för alltför långtgående regleringar.
Förra veckan uppmanade Nvidia, Microsoft, Meta, Palantir och ett 20-tal andra företag amerikanska beslutsfattare att undvika förhastade begränsningar av öppna AI-modeller.
Enligt bolagen riskerar sådana åtgärder att hämma konkurrensen och flytta innovation till andra länder.
Läs mer: Rekordlåg trafik av tankfartyg efter rebellattacker. Dagens PS
