Malaysia og Indonesia stanser tilgangen til Elon Musks AI-verktøy Grok etter en global storm av kritikk. Begge landene peker på misbruk til å lage ikke-samtykkebaserte, seksualiserte deepfakes – også av mindreårige. De er de første i verden som innfører blokkering.

To første land til å blokkere Grok

Indonesia innførte blokkeringen lørdag 11. januar, tett fulgt av Malaysia søndag 12. januar. Myndighetene i begge land viser til alvorlig risiko knyttet til generering av eksplisitte og manipulerte bilder uten samtykke.

Myndighetenes begrunnelse

Malaysias kommunikasjons- og multimediakommisjon (MCMC) begrunner tiltaket med at AI-verktøyet kan misbrukes til å produsere skadelig innhold og at eksisterende sikkerhetstiltak er utilstrekkelige.

Kommisjonen viser til AI-verktøyets evne til å «generere obskønt, seksuelt eksplisitt, uanstendig, grovt støtende og ikke-samtykkebasert manipulert innhold, inkludert materiale som involverer kvinner og mindreårige».

Indonesias kommunikasjons- og digitalminister Meutya Hafid gikk hardt ut i en uttalelse lørdag:

Regjeringen ser på «praksisen med ikke-samtykkebaserte seksuelle deepfakes som en alvorlig krenkelse av menneskerettigheter, verdighet og sikkerheten til borgere i det digitale rommet».

Krav til X og xAI – svarene holdt ikke mål

Tilsynsmyndighetene i Malaysia og Indonesia sendte tidligere denne måneden varsel til X Corp. og xAI med krav om effektive tekniske og modereringstiltak. Svarene de mottok var i hovedsak basert på brukerrapportering, og ble vurdert som utilstrekkelige til å håndtere de iboende risikoene ved Grok.

xAI kunngjorde forrige uke at muligheten til å generere og redigere bilder skulle begrenses til betalende abonnenter på X. Slike brukere har oppgitt personlige detaljer og kan identifiseres ved misbruk. Tiltaket har likevel ikke dempet vreden rundt Grok.

Uklart om omfanget av blokkeringen

Det er foreløpig uklart om forbudene i Malaysia og Indonesia gjelder Grok på X, Grok-nettsiden og appen, eller begge deler. Enkelte rapporter fra Indonesia tyder på at folk fortsatt kunne bruke Grok via appen og X, selv om en bruker meldte at appen var svært treg.

Globalt press mot Grok

Blokkeringene i Sørøst-Asia kommer samtidig som presset øker internasjonalt:

• Storbritannia har signalisert at et forbud kan bli aktuelt dersom tiltak ikke iverksettes.
• Australias statsminister Anthony Albanese fordømte bruken av generativ AI til å utnytte eller seksualisere mennesker uten samtykke som «avskyelig».
• I Europa har en rekke regulatorer og politikere advart de siste ukene. Tysklands kultur- og medieminister ba EU-kommisjonen ta juridiske skritt, og advarte om «industrialiseringen av seksuell trakassering».
• Italias datatilsynsmyndighet uttalte at slik bruk kan utgjøre alvorlige personvernbrudd og, i noen tilfeller, straffbare handlinger.
• I Frankrike har regjeringsministre henvist seksuelt eksplisitt Grok-generert innhold som sirkulerer på X til påtalemyndigheten, og varslet medieregulatoren Arcom.
• Indias IT- og elektronikkdepartement sendte 2. januar et formelt varsel til X om eksplisitte bilder som angivelig er skapt gjennom Grok, og krevde fjerning samt en rapport om tiltak innen 72 timer.

Hva står på spill

Saken reiser grunnleggende spørsmål om regulering av kunstig intelligens og teknologiselskapenes ansvar. Grok markedsføres som et AI-verktøy med færre innholdsbegrensninger enn mange konkurrenter, men hendelsen viser hvordan manglende sikkerhetstiltak kan få alvorlige konsekvenser.

Malaysia og Indonesias beslutning sender et tydelig signal om at myndigheter vil gripe inn når personvern og menneskerettigheter trues. Samtidig synliggjøres den globale utfordringen med deepfake-teknologi, som blir stadig mer tilgjengelig uten tilstrekkelige sikringsmekanismer.

Eksperter advarer om at teknologien kan misbrukes til alt fra trakassering og utpressing til politisk manipulasjon, og at det haster med å etablere internasjonale standarder for ansvarlig bruk av generativ AI.

Veien videre avhenger av om X og xAI leverer mer effektive sikkerhets- og modereringstiltak – og om flere land følger Malaysia og Indonesia med egne restriksjoner. For Grok gjenstår det å bevise at teknologien kan brukes uten å undergrave grunnleggende rettigheter.