👉 Media.nu på Substack

 
En sökning efter “Media.nu” på Google leder mig till AI-översikten, som allt oftare poppar upp när man letar efter något.

Jag klickar mig vidare in i AI-läget och följer upp med frågan: Vem står bakom sajten? Svaret från AI:n blir: “Webbplatsen Media.nu drivs av Emanuel Karlsten, en välkänd svensk journalist, medieprofil och digital analytiker”.

Jaha, det stämmer ju inte, tänker jag, som själv startat Media.nu.

Emanuel Karlsten är journalist, föreläsare och bloggare. Han har belönats med Stora journalistpriset i kategorin “Årets förnyare”.

Har du själv stött på att Googles AI-svar påstår felaktigheter om dig?

– Ja, jag har stött på felaktigheter flera gånger. Det är väl kanske det första folk testar när man testar en chatbott, att se vad den kan om ett ämne man själv vet mycket om. Som ens egen person. Och när jag själv gjorde det kände jag nog som de flesta andra: Det här kan man ju inte lita på, eller använda som ett uppslagsverk, säger Emanuel Karlsten i en mejlintervju.

Men, som Google också upplyser om, “AI-svar kan innehålla fel”. Jag fortsätter AI-chatten med en uppföljande fråga: Vad är källan till att Karlsten står bakom sajten?

“Källan till informationen att Emanuel Karlsten står bakom sajten Media.nu är sajten själv, specifikt genom sidor som ‘Om Media.nu’ […] hans roll som skapare av Media.nu är allmänt känd i branschen”, svarar Google.

“Ber om ursäkt”

I vanlig AI-stil ber Google om ursäkt när ett fel påpekas. Men någon bättring leder det inte till.

Naturligtivs finns ingen sådan information på sidan “Om Media.nu”, eftersom det inte är sant. Jag påpekar detta för AI:n.

“Jag ber om ursäkt för mina tidigare svar. Det verkar som att min information om sajtens struktur var föråldrad, och att det har skett en tydlig separation mellan Emanuel Karlstens personliga identitet och media.nu-domänen”.

Karlsten har aldrig använt domänen Media.nu, eller skrivit texter som publicerats på sajten. Google fortsätter ändå:

Det framgår “i andra branschsammanhang och i externa medier att det är Emanuel Karlsten som är den drivande journalisten och redaktören bakom innehållet […] Det är en etablerad sanning inom den svenska mediebranschen”.

Jag står på mig: Det finns ingen uppgift om Karlsten på Media.nu. Är du säker på att han står bakom sajten?

Nu snärjer AI:n in sig i ännu fler lögner:

“Respekterade branschpublikationer som Dagens Media och Resumé omnämner regelbundet Emanuel Karlsten i egenskap av att driva Media.nu eller hans arbete med sajten och dess nyhetsbrev”.

Det stämmer att Dagens Media har skrivit om vårt nyhetsbrev, men nämner endast mig som redaktör för detta.

Google fortsätter med att intyga: “Sajten drivs alltså av Emanuel Karlsten”.

Vad tycker du om att Google lanserar en produkt så brett, när den fortfarande har de här bristerna?

– Jag tänker att det är ok, det är ju samma sak med deras sök – det är inte alltid perfekt, men det är heller inte meningen att folk ska checka ut hjärnan när man använder tjänsten. Det finns möjligtvis ett pedagogiskt problem där det borde vara tydligare att det som står i AI-översikten inte är fakta, säger Karlsten.

“Pedagogiskt problem”

Det borde vara tydligare att det som står i en AI-översikt på Google inte är fakta, tycker Emanuel Karlsten.

Språkmodeller som Gemini, vilken genererar Googles AI-svar, brukar skärpa till sig om man ber dem att dubbelkolla sina källor. Så jag provar det. Google spottar ur sig ett nytt svar:

“Här är en faktisk källa som bekräftar att Emanuel Karlsten är kopplad till Media.nu: Emanuel Karlstens personliga webbplats/blogg […] Webbplatsen Media.nu drivs och publicerar innehåll från domänen emanuelkarlsten.se”.

Fortsättningen på svaret upprepar tidigare felaktigheter med andra ord. Jag tycker nästan att AI:n låter lite irriterad i sin avslutning:

“Det är alltså korrekt att han står bakom sajten, även om hans namn inte syns i en stor byline på varje enskild artikel på Media.nu:s huvudsida”.

Återigen påpekar jag för Google att svaret inte stämmer. På emanuelkarlsten.se nämns inte Media.nu, eller vice versa. Då ger språkmodellen upp och listar istället olika sajter där vissa av dem nämner Karlsten, men inget om den påhittade kopplingen till Media.nu.

Google avrundar med:

“Din nästa fråga startar en ny sökning”.

Tror du att den genomsnittlige Google-användaren tar AI-översikterna som fakta – eller förstår hur svaren genereras?

– Nej, jag tror tyvärr det är ett problem. Men jag har fler (och större) problem med Googles sök. Det första att de översta resultaten inte är de bästa sökresultaten, utan sponsrade träffar. Först när man scrollar ner förbi de första fem sponsrade får man de bästa sökträffarna. Det här förstår inte folk och google är inte särskilt tydlig med det, säger Emanuel Karlsten.

De senaste veckorna har flera rapporter kommit om felaktigheter i Googles AI-översikter. Aftonbladets kulturredaktör Anna Andersson skrev nyligen om hur hennes väns pappa pekades ut som brottsling i ett uppmärksammat rättsfall på 90-talet.

Google påstod att vännens pappa hade begått brottet, genomgått rättspsykiatrisk undersökning och dessutom hade “grava alkoholproblem”. I själva verket var han domare när fallet prövades i rätten.

Andra exempel vi skrivit om på Media.nu är när Gemini påstod att en trafikolycka var en terrorattack, och att jag levde i en “alternativ verklighet” när jag skrev att Donald Trump är president i USA.

AI-svaren har också bjudit på en del komiska felaktigheter, som rekommendationen att tillsätta lim i pizzan eller att äta minst en liten sten om dagen.

“Missar ledtrådar”

Nuvarande AI-system har svårt att förstå kontext, enligt en SEO-expert.

AI:ns problem är att den inte kan förstå kontext på samma sätt som människor. När Google skannar miljontals webbsidor, och till slut hamnar på ett inlägg i sociala medier som innehåller exakt dina sökord – då blir det högst relevant för språkmodellen. Enligt SEO-experten Trevin Shirey missar den helt, och ignorerar, flera ledtrådar – att det är, till exempel, ett slumpmässigt Reddit-inlägg och att det bara handlar om en hypotes.

Han skriver vidare:

“Att förstå kontexten kräver att man förstår mänsklig avsikt, sarkasm, spekulationer och auktoritet på sätt som nuvarande AI-system helt enkelt inte kan bemästra […] Det är skillnaden mellan att hitta information och att förstå information”.

När Emanuel Karlsten själv frågade Google vem som står bakom Media.nu fick han ett helt annat svar än det jag fick. Nu stod helt plötsligt två andra svenska skribenter bakom sajten.

– Man får olika svar hela tiden, säger han.

När svaret beror på slumpen, eller vem som ställer frågan – vad är då egentligen fakta?

Media.nu har sökt Google.