Ülkede yayıncılık, internet, iletişim ve posta hizmetlerini denetleyen Ofcom'dan yapılan açıklamaya göre, İngiltere'nin Çevrimiçi Güvenlik Yasası kapsamında ABD'li Elon Musk'ın xAI şirketi tarafından geliştirilen ve X platformuna entegre edilen yapay zeka sohbet robotu Grok'un sahte cinsel içerikli görüntüler üretmesi nedeniyle inceleme başlatıldı.
Grok'un ürettiği sahte görüntülerin endişe verici olduğu belirtilen açıklamada, mağdurlar arasında çocukların bulunduğuna da işaret edildi.
Üretilen görüntüler üzerine X ile 5 Ocak'ta temasa geçildiği ve 9 Ocak'a kadar bu olaylarla ilgili izahat talep edildiği bilgisine yer verilen açıklamada, "Ofcom, X'in Çevrimiçi Güvenlik Yasası kapsamında sorumluluklarını yerine getirmekte başarısız olup olmadığına karar vermek amacıyla resmi inceleme başlattı." ifadeleri kullanıldı.
Açıklamada, yasa dışı içerikleri engelleme, hizmetlerde güncelleme yapmadan risk değerlendirmesinde bulunma, kişilerin rızası dışında elde edilmiş cinsel içerikli görüntülerin yayılmasını engelleme, çocukların cinsel istismarına ilişkin materyali engelleme, yasa dışı içerikleri hemen kaldırma, hizmetlerin İngiltere'deki çocuklara yönelik risklerini değerlendirme ve çocukların yetişkin içeriklerini görmesini engellemede etkili yaş sınırı uygulama sorumluluklarının inceleneceğinin altı çizildi.
İnceleme kapsamında delil toplanacağı, yasanın ihlalinin tespit edilmesi halinde öncelikle tedbir kararları alınacağı, esas karar öncesinde ise X'e bu delillere ve bulgulara yanıt vermesi için süre tanınacağı bilgisi de açıklamada paylaşıldı.
X'in yasayı ihlal ettiğine karar verilirse şirkete bu ihlalleri düzeltme süresi verileceği, 18 milyon sterlin ya da küresel gelirin yüzde 10'u oranında para cezası kesileceği de bildirildi.
Açıklamada değerlendirmelerine yer verilen Ofcom sözcüsü, "Grok'un X'te yasa dışı ve rıza dışı cinsel içerikler ve çocukların cinsel istismarına yönelik içerikler üretmesi son derece endişe vericidir. Bu platformlar, İngiltere halkını, yasa dışı içeriklerden korumalıdır. Görevlerini yerine getirmeyen, özellikle de çocukları koruyamayan şirketlere karşı inceleme başlatmaktan geri durmayız." ifadesini kullandı.
Ofcom sözcüsü, bu incelemeyi, yüksek öncelikli olarak ele alacaklarını vurguladı.