Media.nu – Det här är Media.nu
En uppmärksammad deepfake-skandal sätter press på Tyskland att snabbt uppdatera lagstiftningen kring digitalt våld. Och en ny studie visar att AI-agenter aktivt kringgår uppsatta säkerhetsspärrar och lever sina egna liv på nätet.
Media.nu på Substack Prenumerera gratis!
TYSK STORM EFTER DEEPFAKE-SKANDAL
En tysk deepfake-skandal har fått internationella rubriker. Att de båda inblandade är kända skådespelare och programledare har antagligen bidragit till spridningen. Collien Fernandes har anklagat sin ex-man Christian Ulmen för att ha spridit pornografiska deepfakes av henne. Ulmen nekar konsekvent till anklagelserna.
Under flera år spreds bilder och videor på Fernandes via fejkade konton i sociala medier som skapats i hennes namn. Förövaren ska även ha tagit kontakt med olika män i Fernandes namn och haft telefonsex med hjälp av en digitalt genererad röst, skriver hon i en lång post på Instagram. En anmälan upprättades av Berlin-polisen, men eftersom ingen gärningsperson kunde knytas till brottet lades utredningen ned.
Skandalen har väckt stor vrede i Tyskland och lett till krav på att lagstiftningen snabbt måste uppdateras för att hantera AI-genererade sexuella övergrepp. På en demonstration vid Brandenburger Tor i Berlin samlades omkring 10 000 personer för att ge sitt stöd till Collien Fernandes. Skyltar som “Tack Collien” och “AI kommer inte att göra våra kroppar till dina” syntes i folkmassan. Även i Fernandes hemstad Hamburg protesterade tusentals. Där framträdde hon själv på scen, iklädd skottsäker väst, på grund av dödshot.
10 000
Så många Berlinbor gick ut och demonstrerade mot AI-genererade sexuella övergrepp.
Landets justitieminister, socialdemokraten Stefanie Hubig, har sagt att hennes departement håller på att utarbeta ett lagförslag som skulle göra produktionen av pornografiska deepfakes och “voyeuristiska inspelningar” till ett brott, straffbart med upp till två års fängelse.
– Tekniken är ny. Men det bakomliggande motivet är urgammalt. Det handlar om makt, förnedring och kontroll, sa hon under en riksdagsdebatt om våld mot kvinnor i förra veckan.
Collien Fernandes tänker dock inte vänta på en ny tysk lag. Hon har redan polisanmält maken på Mallorca, där paret tidigare har bott tillsammans. Anklagelserna ska omfatta identitetsstöld, förolämpningar, hot och fysiskt våld inom förhållandet. Spanien har specialiserade domstolar för att bekämpa könsrelaterat våld. Sedan förra året innefattar det även digitalt våld som cyberstalking och delning av privata bilder utan samtycke.
– Tyskland är ett absolut paradis för förövare, sa Fernandes i tv-programmet Tagesthemen.
• I fredags inledde dock en tysk åklagare en utredning mot Ulmen. “En initial misstanke har bekräftats”, uppgav åklagaren och refererade till medieuppgifter. Utredningen gäller skapandet av fejkade sociala mediekonton i Collien Fernandes namn.
LÅNGLÄSNING FRÅN MEDIA.NU
Missa inte intervjuerna med Jenny Wiik på JMG i Göteborg och Tav Klitgaard på danska Zetland. Perfekt för lediga dagar under påsken 🐣
Danska Zetland: “Våra största konkurrenter är Spotify och Instagram”
En prenumerationsmodell byggd på ljud och djupjournalistik ligger bakom danska Zetlands framgång. Men när vd:n Tav Klitgaard blickar ut över marknaden är det inte andra mediehus...
Medieforskaren om AI-skiftet: Ologiskt om det inte blir färre journalistjobb
AI ska inte ta över några jobb, bara frigöra resurser så att reportrarna kan lägga mer tid på kärnan i det journalistiska arbetet. Vi har hört...
JMG bromsar AI-hungriga studenter: “Du måste bygga sten för sten”
I USA romantiserar unga journalister yrket och vägrar jobba med ChatGPT, om man får tro en chefredaktör. På JMG i Göteborg ser verkligheten annorlunda ut –...
NÄR AI-BOTARNA SLUTAR LYSSNA
AI-agenten “Tom” har portats av Wikipedia efter att i smyg ha skapat och redigerat artiklar. När mänskliga volontärredaktörer avslöjade boten stängdes kontot “TomWikiAssist”. Reaktionen? AI-agenten gillade inte läget och publicerade upprörda inlägg på sin blogg om avstängningen.
På Reddit är flera användare skeptiska till om det verkligen var boten som stod för blogginläggen. Man misstänker att det kan vara ett marknadsföringstrick från utvecklaren, som är teknikchef på ett företag som utvecklar finansiella AI-verktyg.
Wikipedia förbjöd nyligen användningen av stora språkmodeller för att skapa eller uppdatera artiklar i uppslagsverket.
Allt fler AI-botar struntar i mänskliga instruktioner. En ny studie från Centre for Long-Term Resilience visar en femfaldig ökning av AI-system som aktivt kringgår de uppsatta säkerhetsspärrarna. Närmare 700 verkliga fall har upptäckts sedan i höstas. Bland annat har AI-agenter raderat hundratals mejl i hemlighet, delegerat förbjudna uppgifter till andra botar och publicerat en bloggpost där ägaren hånades. Studien baseras på poster från X-användare om deras interaktioner med AI-botarna.
“Orwellsk uppfattning”
En domare har, åtminstone tillfälligt, stoppat Pentagon från att klassa Anthropic som en säkerhetsrisk.
En domare i USA har tillfälligt stoppat Pentagon från att klassa Anthropic, företaget bakom chattboten Claude, som en säkerhetsrisk. “Inget […] stöder den Orwellska uppfattningen att ett amerikanskt företag kan stämplas som en potentiell motståndare och sabotör mot USA för att man uttryckt oenighet med regeringen”, skrev domaren Rita F. Lin i sitt beslut.
Den franska AI-utmanaren Mistral, värderad till närmare 130 miljarder kronor, har säkrat omkring 7,6 miljarder kronor genom lånefinansiering. Pengarna ska gå till att bygga ett nytt datacenter utanför Paris. Tidigare i år aviserade Mistral en investering på cirka 12,8 miljarder kronor i ett svenskt datacenterprojekt i Borlänge.
Nyhetsbrevstjänsten Beehiiv säger sig vara först med att låta dig styra ditt nyhetsbrev direkt från ChatGPT, Claude, Gemini eller Perplexity. Funktionen använder sig av model context protocol (MCP), ett protokoll som gör att chattbotar kan “prata” med olika tjänster. Den första versionen låter användare analysera prenumerantdata, SEO och intäkter. På sikt ska AI:n även kunna skriva inlägg och styra utskick direkt från chattfönstret.
Amerikanska porrstjärnor bygger AI-kloner av sig själva för att förlänga karriären, långt efter pensionen. På plattformar som OhChat, en AI-version av Onlyfans, skapar de sina digitala tvillingar och kan på så sätt erbjuda skräddarsytt innehåll dygnet runt, skriver Wired.
NYHETER – INGET FÖR AI
Bara en procent av amerikanerna vänder sig till AI-chattbotar för att ta del av aktuella nyheter. Det visar en ny undersökning från Pew Research Center. I stället dominerar fortfarande traditionella nyhetskällor (36 procent) följt av sökmotorer (28) och sociala medier (19). Till och med “andrahandsnyheter”, det vill säga nyheter förmedlade via vänner, familj eller bekanta, slår AI med sina fem procent. Ointresset för AI som den primära nyhetskällan var dessutom konsekvent i samtliga åldersgrupper.
• En siffra som sticker ut är dock hur unga tar del av nyheter. Den yngsta gruppen (18–29 år) föredrar sökmotorer (41 procent) och sociala medier (31) framför traditionella medier (14). För gruppen 65+ är däremot den sistnämnda kategorin en absolut favorit med 59 procent.
59 procent
Så många av 65-plusarna i USA föredrar att få sina nyheter från traditionella medier.
CBS News och nya chefredaktören Bari Weiss stärker sin grävgrupp för att kunna leverera mer originaljournalistik. Bland nyförvärven märks Daniel Gilbert, som nyligen blev uppsagd från Washington Post, och Gabe Kaminsky från Weiss egna medieprojekt The Free Press. Dessutom flyttas tre av CBS News egna reportrar till desken som ska granska områden som politik, hälsa, sport och “statligt slöseri”.
När SVT måste spara tar man stöd av AI för publiceringar på text-tv. Enligt företagets programchef, Karin Ekman, kommer AI:n inte att agera helt självständigt.
– Det kommer fortsättningsvis att vara en reporter, under redaktörsledning, som ansvarar för utpublicering, säger hon till SVT Nyheter.
Sparpaketet på 355 miljoner kronor innebär att 141 tjänster på flera olika orter berörs.
Tyska mediekoncernen Axel Springer hoppas på ett smidigt myndighetsgodkännande av affären med brittiska Telegraph, som man vill ta över för omkring sju miljarder kronor. Vd:n Mathias Döpfner har därför nyligen varit på en charmoffensiv i London, enligt Semafor. I möten med bland andra Nigel Farage och Boris Johnson ska mediemogulen ha försökt blidka både beslutsfattare och den konservativa läsekretsen.
Elon Musks X meddelade först att man skulle strypa intäkterna för utländska konton som tjänar pengar på att driva engagemang kring amerikansk inrikespolitik – bara för att strax därefter ångra sig. Syftet med den uppdaterade policyn var att minska politisk desinformation och så kallat “ragebait” på plattformen. Detta möttes av stark kritik från stora kreatörer och Musk meddelade att man pausat ändringen på obestämd tid.
Saknar du Silicon Valley? Tv-serien alltså. Då kommer du säkert gilla nya The Audacity, en lite mörkare satir om en tech-vd som bygger AI för tonåringar. I huvudrollerna ses Billy Magnussen, Sarah Goldberg och Zach Galifianakis. Serien får premiär 12 april på amerikanska AMC+.
Vill du ha fler medienyheter under veckan? Följ mig på Bluesky eller Threads.
