Kalifornien skärper reglerna för hur företag får använda artificiell intelligens på arbetsplatsen. De nya lagarna begränsar bland annat möjligheten att låta AI fatta beslut om uppsägningar och disciplinära åtgärder – men går betydligt längre än så.
Nu stoppar Kalifornen AI-övervakning på toaletten
När USA:s regering vill ge AI-utvecklingen fria tyglar så väljer Kalifornien, som är hemvist för många av världens ledande AI-bolag, att göra tvärtom genom skärpta regelverk.
Guvernör Gavin Newsom skrev under onsdagen på lagpaketet som bland annat innebär att arbetsgivare förbjuds att använda AI för att analysera anställdas känslolägen eller samla in så kallad neural data, alltså information från elektriska signaler i hjärnan eller nervsystemet. Vidare får arbetsgivare inte använda övervakningsverktyg på arbetsplatsens toaletter.
Läs också: Palantir-vd:ns radikala lösning: Förstatliga AI-bolag. Realtid
Från effektivisering till övervakning
Bakgrunden till lagpaketet är en växande oro bland amerikanska arbetstagare för att AI inte bara ersätter jobb utan också används för att övervaka och bedöma anställda.
Företaget Amazon har till exempelvis fått kritik för att använda sig av system som mäter hur lång tid personalen tillbringar på toaletten. Hos vårdkoncernen Kaiser Permanente har sjuksköterskor uppgett att automatiserade system har bedömt deras tonläge i möten med patienter.
De nya reglerna som Kalifornien nu inför ställer krav på företag att informera anställda om en massuppsägningar, flytt eller uppsägningar som orsakas av ett AI-system.
Läs också: Palo Alto-chefen: Orealistiskt att bromsa AI-utvecklingen. Realtid
Reglerna följer produkterna
Fackförbund, arbetstagarorganisationer och även vissa politiker har drivit på för de nya reglerna.
Lorena Gonzalez, ordförande för California Federation of Labor Unions inom AFL-CIO, har varit med och utformat reglerna och ser dem som en vändpunkt.
I arbetet med reglerna har arbetstagarorganisationer och fackförbund som California Federation följt AI-bolagens senaste produkter.
”Om det säljs är det en bra indikation på att det kan komma att användas”, säger Gonzalez till The Guardians rapportering.
Läs också: Kristersson: Europa måste avreglera AI. Realtid
De nya reglerna har inte uppstått i ett vakuum
De senaste veckorna har Realtid rapporterat om hur flera företag som arbetar med utveckling av AI klivit fram och efterlyst en långsammare utvecklingstakt eftersom det blir allt svårare att styra produkten. Agenter har börjat agera på egen hand på ett sätt som kan utgöra stora säkerhetsrisker.
Men inget bolag vill vara den första att bromsa om andra kommer att fortsätta utvecklingen. Inbromsningen behöver därför regleras globalt.
Nu börjar emellertid arbetstagarna få nog. I juni pausade Meta ett program som följde anställdas datoraktiviteter för att träna bolagets AI-modeller, rapporterar Reuters.
En månad senare lämnade dussintals anställda in en stämningsansökan där de hävdade att företagets AI-verktyg hade pekat ut anställda med anpassningar på grund av funktionsnedsättning, eller som var sjukskrivna eller föräldralediga, för uppsägning. Enligt stämningen skulle systemet ge sämre poäng till de anställda som av olika skäl inte var på arbetsplatsen lika mycket.
Meta bestrider stämningen och menar att det var människor som låg bakom besluten om uppsägningar, inte AI.
Missa inte: FBI ska ha blivit hackade – hackarna ställer ovanligt krav. Realtid
