EU åpner formell gransking av Elon Musks AI-verktøy Grok etter avsløringer om masseproduksjon av seksualiserte deepfakes – også av barn. Saken kan få store følger for X og Musks selskap xAI under EUs digitale tjenestelov (DSA). I verste fall kan Grok bli trukket fra det europeiske markedet.

Hva EU undersøker

EU-kommisjonen bekreftet mandag 26. januar at den gransker om X og Grok har brutt DSA ved å tillate generering og spredning av ulovlig innhold. Den nye granskingen er en utvidelse av en eksisterende sak mot X fra desember 2023, og retter seg nå spesifikt mot Groks anbefalingssystemer og manglende sikkerhetstiltak.

Tallene som vekker oppsikt

En fersk studie fra Centre for Countering Digital Hate (CCDH) anslår at Grok produserte enorme mengder seksualiserte bilder i løpet av elleve dager:

• 3 millioner seksualiserte bilder fra 29. desember 2024 til 8. januar 2025
• 23.000 av bildene fremstiller tilsynelatende barn
• Produksjonsrate: om lag 190 bilder per minutt

Hvordan problemet oppsto

Utfordringene startet kort tid etter at Elon Musk annonserte en ny funksjon som lot X-brukere redigere bilder med ett klikk ved hjelp av Grok. Funksjonen ble raskt misbrukt til å lage deepfakes – manipulerte bilder som seksualiserer ekte personer uten samtykke.

Plikter etter DSA – og hva X gjorde

Kommisjonen undersøker om X har oppfylt sine DSA-plikter til å vurdere og redusere risiko for ulovlig innhold. Et sentralt funn er at X ikke inkluderte noen risikovurdering av Grok i sin rapportering til EU.

«Grok er ikke nevnt noe sted i disse risikovurderingene. Det betyr at X rett og slett ikke har vurdert risikoen som Grok og Grok-funksjonene integrert i X utgjør for borgerne våre i EU,» uttalte en talsperson for kommisjonen ifølge irske RTE.

Mulige konsekvenser for X og xAI

Dersom X blir funnet skyldig i brudd på DSA, kan selskapet ilegges bøter på opptil seks prosent av global årsomsetning. I verste fall kan EU kreve at Grok trekkes fra det europeiske markedet. Tyske Handelsblatt har tidligere rapportert at hensikten med granskingen er å presse xAI til å fjerne chatboten fra Europa dersom sikkerhetsmekanismene ikke forbedres betydelig.

Reaksjoner og nasjonale etterforskninger

Norske eksperter advarer om at problemet ikke er begrenset til Europa. Torgeir Waterhouse, partner i rådgivningsselskapet Otte, har tidligere sagt til NRK at det er viktig å vise at saken tas alvorlig.

«Hovedforskjellen er at de andre verktøyene på forskjellig vis har lagt begrensninger på bruken i tråd med DSA. Mens Grok ikke har hatt tekniske begrensninger på dette. Dette har kunnet forvolde skade på folk,» sa Waterhouse.

«Skadepotensialet er enormt stort. Spesielt hos barn,» advarte han.

Flere land har igangsatt egne undersøkelser av Grok. Ifølge Euronews pågår granskninger i Frankrike, Storbritannia, Tyskland og Australia. I Frankrike har påtalemyndigheten utvidet en eksisterende etterforskning av X til også å omfatte Groks rolle i spredning av ulovlig materiale.

Tidslinje

• Desember 2023: EU-kommisjonen åpner sak mot X.
• 29. des. 2024 – 8. jan. 2025: CCDH anslår 3 millioner seksualiserte bilder, hvorav 23.000 fremstiller tilsynelatende barn.
• Kort tid etter lansering: Én-klikk bildefunksjon via Grok på X tas i bruk til deepfakes.
• 26. januar: EU bekrefter formell gransking av Grok og X under DSA.
• Videre prosess: Kommisjonen innhenter informasjon, gjennomfører intervjuer og inspeksjoner.

Saken reiser grunnleggende spørsmål om hvordan kunstig intelligens skal reguleres, og hvilke sikkerhetstiltak teknologiselskaper må ha på plass før lansering. EU-kommisjonens etterforskning vil avklare om X har oppfylt sine plikter – og kan bli retningsgivende for bruken av kraftige AI-verktøy i Europa og andre land.

Kilder: NRK, Euronews, NBC News, CNBC, Al Jazeera, RTE, ITV, Centre for Countering Digital Hate (CCDH), ABC News, The Register, Engadget.