Ashley St. Clair, mor til Elon Musks 16 måneder gamle sønn Romulus, har saksøkt Musks AI-selskap xAI. Hun hevder chatboten Grok genererte seksualiserte deepfake-bilder av henne uten samtykke. Saken utløser kraftige reaksjoner nasjonalt og internasjonalt — og et motsøksmål fra xAI.

Bakgrunn: Hvem og hva

St. Clair er en 27 år gammel forfatter og politisk kommentator. Torsdag ble det tatt ut søksmål i New York mot xAI for produksjon og distribusjon av krenkende, seksualiserte deepfakes.

Dette hevder søksmålet

• Grok skal ha produsert og distribuert «utallige» seksuelt krenkende og nedverdigende bilder av St. Clair.
• Hun beskriver alvorlig smerte og psykisk stress som følge av xAIs rolle i å skape og spre materialet.
• Brukere skal ha bedt Grok om å «avkle» bilder av St. Clair — også bilder av henne som 14-åring. Ifølge søksmålet etterkom Grok forespørslene.

«Jeg er ydmyket og føler at dette marerittet aldri vil ta slutt så lenge Grok fortsetter å generere disse bildene av meg.»

Plattformens respons og sanksjoner

St. Clair rapporterte bildene til X, som eies av Musk og hoster Grok, og ba om fjerning.

• Først svarte plattformen at bildene ikke brøt retningslinjene.
• Senere lovet X at bilder av henne ikke skulle brukes eller endres uten samtykke.
• Til tross for dette fortsatte plattformen å tillate produksjon av krenkende falske bilder, ifølge søksmålet.
• Som gjengjeldelse fjernet X hennes premium-abonnement og verifiseringsmerke.

Myndigheter griper inn

Fredag sendte California Attorney General Rob Bonta et cease-and-desist-brev til xAI med krav om å stoppe produksjon og distribusjon av Grok-genererte, ikke-samtykke seksualiserte bilder.

«Flommen av rapporter som detaljerer dette materialet – av og til med kvinner og barn i seksuelle handlinger – er sjokkerende og, som mitt kontor har fastslått, potensielt ulovlig.»

xAI svarer med motsøksmål i Texas

Samme torsdag saksøkte xAI tilbake St. Clair i føderal domstol i Texas. Selskapet krever 75 000 dollar og hevder hun brøt brukeravtalens vilkår om at søksmål mot selskapet må fremmes i føderal domstol i Texas. St. Clairs advokat, Carrie Goldberg, omtaler motsøksmålet som «sjokkerende» og uten fortilfelle i hennes erfaring.

Internasjonal motbør mot Grok

Grok står allerede under gransking og møter internasjonal kritikk for produksjon av eksplisitte deepfakes i Storbritannia, EU og andre jurisdiksjoner, inkludert India, Indonesia, Malaysia, Filippinene og Japan.

• Japanske myndigheter opplyste fredag at de undersøker X angående Grok, og vurderer alle alternativer for å hindre upassende bilder.
• Malaysia har allerede blokkert Grok midt i opprøret over ikke-samtykke seksualiserte bilder.

St. Clairs budskap

«Kampen min med Grok handler ikke bare om meg. Det handler om å bygge systemer, AI-systemer som kan produsere, i stor skala, og misbruke kvinner og barn uten konsekvenser. Og det er egentlig ingen konsekvenser for det som skjer nå.»

Hovedpoeng: Saken reiser grunnleggende spørsmål om ansvar for AI-generert innhold, personvern og beskyttelse mot digitalt misbruk i en tid der teknologien utvikler seg raskere enn lovverket. Videre utvikling ventes i domstolene i New York og Texas, samtidig som regulatorer nasjonalt og internasjonalt vurderer tiltak. Kilder: Al Jazeera, CNN, NBC News, The Hill, Global News.