Nvidia har länge setts som den stora chipjätten i AI-racet. Men Google utmanar med sin egen variant.
Googles nya AI-drag: Lanserar snabba chip
Google trappar upp konkurrensen på marknaden för AI-chip genom att lansera en ny generation av sina egenutvecklade processorer, så kallade Tensor Processing Units.
Den åttonde generationen markerar ett strategiskt skifte där bolaget för första gången introducerar en variant särskilt anpassad för dagens AI-modeller.
Bakgrunden är en snabbt växande efterfrågan på AI-tjänster, inte minst så kallade AI-agenter som kan utföra komplexa uppgifter som programmering, analys och automatisering.
”Kan inte täcka kostnaden annars”
Till skillnad från träning av modeller, som kräver massiv rå beräkningskraft, handlar inferens, som TPU är anpassat för, i högre grad om snabb respons och effektiv hantering av stora datamängder i realtid.
Inferenschippen är optimerade för att minska svarstider och hantera stora volymer förfrågningar, något som blivit allt viktigare i takt med att företag integrerar AI i sina dagliga verksamheter.
”Om du inte har inferens kan du inte täcka kostnaden för att träna AI. Så småningom kommer inferens att bli minst lika stort, om inte större, än träningen”, säger Thomas Kurian, vd för Googles molnverksamhet, till Wall Street Journal.
Lanseringen sker i ett läge där konkurrensen hårdnar. Nvidia dominerar i dag marknaden för AI-hårdvara, särskilt genom sina grafikprocessorer som används för att träna avancerade modeller.
Ska förbättra prestandan
Samtidigt växer nya aktörer fram, och flera teknikbolag satsar på specialiserade lösningar för inferens.
En central utmaning i utvecklingen av AI-chip är att balansera beräkningskraft, minneskapacitet och energiförbrukning.
När AI-system används i stor skala uppstår ofta flaskhalsar där data inte kan behandlas tillräckligt snabbt, vilket leder till fördröjningar.
De nya TPU-chippen är utformade för att hantera dessa problem och förbättra prestandan i datacenter och molntjänster.
Google har utvecklat sina egna chip i över ett decennium, ofta i samarbete med Broadcom. Tekniken används redan internt för bolagets egna AI-modeller, inklusive system inom generativ AI.
Läs mer: Studie: Chefen övervakar dig mer än vad du tror. Dagens PS
