Internet har alltid varit en märklig plats. Men generativ AI och LLM:ernas så kallade hallucinationer har adderat ett nytt lager av konstigheter.
Vilda hallucinationer: Ett nytt inslag i den digitala vardagen
KOMMENTAR – Den som är en långvarig användare av internet är van vid att stöta på konstiga och ibland uppenbart falska inslag. Absurda påståenden, udda filmer och manipulerade bilder är sen länge en del av den digitala vardagen.
Det har fått ett nytt lager i och med det breda användandet av LLM-baserade AI-tjänster. Så kallat “slop”, AI-genererat innehåll av låg kvalitet, dyker upp i filmsnuttar och till och med i etablerade medieflöden.
Överallt där vi kan ladda upp information finns det en betydande risk att AI-genererat innehåll förekommer. Ett exempel som nyligen uppmärksammats är bilder på den populära bildtjänsten Pinterest.
Det här är en kommenterande text och åsikterna som framkommer är skribentens och återspeglar inte nödvändigtvis Realtids uppfattning.
Hallucinationer: Bakvända trappor och märkliga proportioner
Pinterest är en utmärkt plattform för den som söker inspiration och information i form av bilder. Dags att måla om hemma? Trendiga färgkombinationer och inredningsidéer finns i överflöd.
Men ett återkommande inslag är bilder som uppenbart är AI-genererade.
En användare som kontaktat Realtid beskriver hur allt fler bilder i flödet ser ut att vara skapade med generativ AI. Två exempel som skickats in visar bland annat bakvända trappor och figurer med märkliga proportioner.
Pinterest arbetar med frågan
Företaget känner till fenomenet och har i omgångar agerat för att förbättra användarnas upplevelse. Bland annat ska AI-genererat innehåll märkas, så att användare kan välja att filtrera bort det.
”I takt med att människor stöter på AI-genererat innehåll på Pinterest, ger vi våra användare förutsättningar att göra mer välinformerade val kring det innehåll de ser”, sa teknikchef Matt Madrigal i ett pressmeddelande förra året.
”Innehåll skapat med generativ AI på Pinterest ska stärka användarnas förmåga att upptäcka och förverkliga sin inspiration. Vi närmar oss medvetet detta nya landskap på ett genomtänkt sätt som gynnar alla på Pinterest.”
Men de bilder som skickats in till oss saknar sådan märkning och filtreras därmed inte bort. Enligt användaren förekommer det betydligt fler liknande exempel.
Vad är problemet?
Det är viktigt att understryka att detta inte är ett problem som är unikt för Pinterest. Plattformen är snarare ett exempel på en bredare utveckling där AI-genererat innehåll blir allt vanligare.
En enskild bild med en felkonstruerad trappa är i sig inget avgörande problem. Men i takt med att den typen av innehåll tar större plats riskerar användarupplevelsen att förändras.
Trovärdigheten på digitala mötesplatser kan påverkas när användare inte vet om det de ser är fotografier, illustrationer eller AI-genererade bilder.
Den här typen av innehåll kommer sannolikt att fortsätta dyka upp. Frågan är hur plattformar väljer att hantera det och hur tydlig gränsdragningen ska vara mellan mänskligt och maskinellt skapat material.
Utöver det finns en rad andra baksidor med generativ AI som det pratas relativt lite om. Den som vill veta mer kan bland annat läsa min intervju med AI-forskaren Pontus Wärnestål.
Läs även:
Danmark kör om Sverige i AI-racet
