Een rechter in de Amerikaanse staat Minnesota heeft een verzoek van xAI afgewezen om een nieuw verbod op zogenoemde nudify-apps tijdelijk tegen te houden. Met zulke AI-toepassingen kunnen gebruikers normale foto’s veranderen in seksueel getinte of naaktbeelden, vaak zonder toestemming van de afgebeelde persoon. Het verbod is op 1 augustus 2026 in werking getreden en geldt als de eerste Amerikaanse wet die zich specifiek richt op apps waarmee mensen digitaal kunnen worden uitgekleed. xAI, het AI-bedrijf achter chatbot Grok, probeert de wet via een rechtszaak alsnog van tafel te krijgen.
xAI wachtte volgens rechter te lang
De uitspraak draaide niet alleen om de inhoud van de nieuwe wet, maar vooral om het moment waarop xAI juridische stappen ondernam. Het bedrijf diende pas op 29 juli een verzoek tot tijdelijke opschorting in: bijna drie maanden nadat de wet was ondertekend en slechts drie dagen voordat deze van kracht zou worden.
Volgens de Amerikaanse districtsrechter Donovan Frank wijst deze vertraging erop dat de schade voor xAI niet zo onmiddellijk en dringend is als het bedrijf beweert.
De uitspraak betekent niet dat de volledige rechtszaak voorbij is. De rechter heeft alleen bepaald dat de wet tijdens de verdere behandeling van de zaak gewoon mag worden uitgevoerd. xAI stelt dat het verbod te breed is geformuleerd en dat er minder ingrijpende maatregelen mogelijk zijn om slachtoffers van gemanipuleerde beelden te beschermen.
Grok eerder onder vuur om seksuele deepfakes
De zaak volgt op controverse rond Grok, de AI-chatbot van xAI die beschikbaar is via socialmediaplatform X. Gebruikers zouden de chatbot eerder hebben ingezet om grote aantallen seksueel getinte afbeeldingen van echte personen te genereren en te verspreiden, zonder dat deze personen daarvoor toestemming hadden gegeven. Deze praktijken leidden tot onderzoeken en verboden. De wet van Minnesota moet het eenvoudiger maken om op te treden tegen applicaties die speciaal zijn ontworpen om dergelijke schadelijke en misleidende beelden te produceren. Voor xAI is de afwijzing een voorlopige juridische nederlaag. De inhoudelijke strijd over de vraag of het verbod in strijd is met de Amerikaanse grondwet en de vrijheid van meningsuiting gaat echter verder. Totdat daarover een definitieve uitspraak volgt, blijft het verbod op nudify-apps in Minnesota van kracht.