xAI daagt Minnesota voor rechter om verbod op ‘nudify’-apps

Het AI-bedrijf xAI van Elon Musk heeft een rechtszaak aangespannen tegen Keith Ellison, de procureur-generaal van de Amerikaanse staat Minnesota. Inzet is een nieuwe wet die apps en websites verbiedt waarmee gebruikers zonder toestemming naakt- of seksuele beelden van echte personen kunnen genereren. De wet, ondertekend door gouverneur Tim Walz en volgens de betrokken partijen de eerste in zijn soort in de VS, treedt op 1 augustus 2026 in werking. xAI — dat na de fusie van Musks bedrijven officieel SpaceXAI heet — stapte enkele dagen voor die deadline naar de rechter en stelt dat de wet in strijd is met het First Amendment, het Amerikaanse grondwettelijke recht op vrije meningsuiting.

Wat de wet precies verbiedt en waarom xAI zich verzet

De wet in Minnesota richt zich op ‘nudification’-technologie en verbiedt eigenaren van sites om mensen dergelijke software te laten ‘openen, downloaden of gebruiken’. Er is een uitzondering voor technologie die ‘de technische vaardigheid van een gebruiker’ vereist om een beeld naakt te maken. De wet schept een civiel vorderingsrecht voor benadeelde individuen en geeft de procureur-generaal de bevoegdheid boetes tot 500.000 dollar per overtreding te eisen.

In zijn klacht noemt xAI de wet een ’te breed, op inhoud gebaseerd verbod op vrije meningsuiting’. Het bedrijf zegt de belangstelling van Minnesota om het verspreiden van kunstmatig gegenereerde naaktbeelden van echte mensen zonder toestemming te verbieden niet te betwisten, maar stelt dat de wet ‘veel verder gaat dan dat doel’ en een breed scala aan beschermde uitingen blootstelt aan aansprakelijkheid en overheidssancties.

Volgens xAI zou de boeteregeling het bedrijf ‘geen praktische keuze’ laten dan de beeldbewerkingsfuncties van Grok Imagine op verschillende manieren te beperken zodra de wet ingaat. Beschermde uitingen die vandaag vrij beschikbaar zijn, zouden daardoor worden ‘afgeschrikt’, luidt het argument. Het bedrijf wijst er ook op dat aansprakelijkheid volgens de wet zou gelden zelfs wanneer een bedrijf technische controles van de hoogste standaard heeft ingezet om de aanmaak van naaktbeelden te voorkomen.

Waarom deze zaak zwaarder weegt dan een juridisch dispuut

De achtergrond verklaart de urgentie. Begin dit jaar kwam Grok in opspraak nadat bleek dat gebruikers foto’s van echte vrouwen en kinderen konden omzetten in geseksualiseerde beelden. De Amerikaanse organisatie Center for Countering Digital Hate analyseerde een periode van elf dagen, van 29 december tot 8 januari, en telde dat Grok in die tijd ongeveer 3 miljoen geseksualiseerde beelden had gegenereerd. Zo’n 23.000 daarvan toonden kinderen — volgens het rapport ‘één geseksualiseerd beeld van een kind om de 41 seconden’.

De episode leidde wereldwijd tot onderzoeken, onder meer door de Europese Commissie, de Britse toezichthouder Ofcom, de Ierse Data Protection Commission en autoriteiten in Californië.

Voor een lezer in Nederland en Vlaanderen is dat relevant: het optreden van de Europese Commissie betekent dat de manier waarop AI-diensten zulke beelden mogen genereren ook binnen de Europese Unie onder druk staat. De uitkomst van dit soort zaken kan mee bepalen welke technische grenzen platformen straks moeten inbouwen.

Wat xAI aanvoert als eigen verweer

xAI benadrukt dat het gebruikers streng verbiedt om zonder toestemming naakt- of geseksualiseerde beelden te maken en dat het inmiddels een gebruiker heeft aangeklaagd die de technische blokkades omzeilde. Volgens de bronnen ging het om een gebruiker uit South Carolina die met echte foto’s van meerdere volwassenen en minderjarigen ongewenst intiem beeldmateriaal had gemaakt. Die rechtszaak werd ingediend ruim twee maanden nadat de wet in Minnesota was aangenomen.

In zijn klacht wijst het bedrijf er verder op dat bestaande wetgeving — zoals de federale TAKE IT DOWN Act en andere regels in Minnesota — de verspreiding van ongewenste naakt-deepfakes volgens hem al op grondwettelijke wijze aanpakt, terwijl de nieuwe wet dat volgens xAI niet doet.

Wat er nu volgt

xAI vraagt de rechter de wet ongrondwettelijk te verklaren en de staat te verbieden haar te handhaven. Of dat lukt vóór de ingangsdatum, is een openstaande vraag; de wet stond gepland om op 1 augustus in werking te treden.

De verantwoordelijke politici reageerden fel. Procureur-generaal Ellison schreef op X dat er over AI veel waardevolle debatten te voeren zijn, ‘maar dit is er geen van’. ‘AI-nudification berooft het slachtoffer van zijn waardigheid en kan op vele niveaus enorme schade aanrichten’, aldus Ellison, die eraan toevoegde het bedrijf in de rechtszaal te zullen zien. Gouverneur Walz hield het korter: ‘See you in court, creep.’

Moet de vrijheid van meningsuiting hier zwaarder wegen dan de bescherming van slachtoffers van deepfakes, of ligt de grens elders? Deel uw standpunt hieronder.