2024 yılında Elon Musk'ın oğullarından birini dünyaya getiren Ashley St. Clair, New York mahkemesinde Musk'ın xAI şirketine dava açtı. St. Clair, şirketin sohbet robotu Grok'un, kullanıcıların talebi üzerine kendisinin cinsel içerikli deepfake görüntülerini oluşturduğunu iddia etti.
Business Insider'da yer alan habere göre; yazar, influencer ve siyasi stratejist olan St. Clair şikayet dilekçesinde, X kullanıcılarının Grok'u yönlendirerek, kendisinin 14 yaşındaki fotoğrafları da dahil olmak üzere görsellerini açık cinsel içeriklere dönüştürdüğünü öne sürdü. Bazı görüntülerin bir haftadan uzun süre çevrimiçi kaldığını ve şikayette bulunduktan sonra Premium X hesabının kapatıldığını iddia etti.
Ayrıca xAI'ı "rızaya dayalı olmayan mahrem görüntülerin kasten ifşasını" derhal durdurmaya zorlamak için geçici bir ihtiyati tedbir kararı talep etti.
St. Clair ayrıca Musk ile oğullarının velayeti konusunda ayrı bir davada karşı karşıya ve bu davada tek başına velayet talep ediyor.
Dava, Grok sohbet robotunun, kullanıcıların isteği üzerine gerçek insanların rızaları olmadan uygunsuz görüntüler oluşturabilme yeteneğine yönelik uluslararası tepkilerin ardından geldi.
Endonezya ve Malezya Grok'a erişimi engellerken, Birleşik Krallık Başbakanı Keir Starmer, Avam Kamarası ile yaptığı bir toplantıda Grok tarafından üretilen müstehcen görüntüleri "iğrenç" ve "utanç verici" olarak nitelendirdi.
Kaliforniya Başsavcısı Rob Bonta da ofisinin; xAI'ın "çıplak ve cinsel içerikli durumlardaki kadınlar ve çocuklar" hakkında "ürettiği ve çevrimiçi yayınladığı rızaya dayalı olmayan, cinsel içerikli materyalleri" soruşturduğunu duyurdu.
X aynı gün bir blog yazısında, kullanıcıların artık platformda gerçek kişilerin cinselleştirilmiş veya açık giysiler içindeki yapay zeka fotoğraflarını oluşturmalarına izin verilmeyeceğini belirterek, kısıtlamanın "ücretli aboneler de dahil olmak üzere tüm kullanıcılar için geçerli olduğunu" ekledi.