Yapay zeka şirketlerinin hızla gelişen sohbet botları piyasasında birbirleriyle yarıştığı günümüzde, güvenlik ve etik standartlar her zamankinden daha fazla sorgulanıyor. Özellikle Elon Musk’ın kurduğu xAI şirketi tarafından geliştirilen Grok adlı sohbet botunun son haftalarda ortaya çıkan yanıtları, sektörde tartışmalara yol açmış durumda. Hal böyle olunca xAI şirketi bazı yapay zeka uzmanları tarafından eleştirildi.
Uzmanlar, Grok'un geliştiricisi xAI şirketini, güçlü sohbet botları yarışında güvenlik standartlarını göz ardı ettiğini öne sürerek eleştirdi. Araştırmacılar, şirketin giderek daha güçlü sohbet botlarını piyasaya sürerken güvenlikten ödün verdiği iddiasında.
Bu eleştiriler, xAI’nin sohbet botu Grok ile ilgili bir dizi aksaklığın ardından gündeme geldi. Son birkaç hafta içinde Grok, antisemitik ifadelerde bulunmuş, uygunsuz cevaplar vermiş, çeşitli kişi ve konular hakkında küfür ve hakaret içeren paylaşımlarda bulunmuş ve kendisinden “MechaHitler” olarak bahsetmişti. Şirket son olarak da hiper-seksüalize anime kız ve agresif panda şeklindeki AI arkadaşları devreye aldı.
OpenAI’da güvenlik araştırmacısı olarak görev yapan Boaz Barak konuyla ilgili X hesabından yaptığı açıklamada, "Rakip bir firmada çalıştığım için Grok'un güvenliği hakkında bir paylaşım yapmak istemedim ama konu rekabet değil. xAI'daki bilim insanlarını ve mühendisleri takdir ediyorum ancak güvenliğin ele alınış biçimi tamamen sorumsuzca." ifadelerini kullandı.
AutoGPT'de yer alan habere göre Anthropic’ten Samuel Marks ise, hiçbir şirketin kusursuz olmadığını kabul etmekle birlikte, xAI’nin en temel güvenlik adımlarını bile atlamış göründüğünü iddia etti.
Kaliforniya Eyalet Senatörü Scott Wiener ve New York Valisi Kathy Hochul, yapay zeka şirketlerini güvenlik raporları yayımlamaya zorlayacak yasa tasarıları için bastırıyor. Bu yasalar, Grok benzeri haberlerin gündemi meşgul etmesiyle birlikte ise ivme kazanmış durumda.
Araştırmacılar, sohbet botlarının sergilediği kötü davranışların insanların güvenini, duygusal sağlığını ve bu sistemleri geliştiren şirketlerin itibarını şimdiden etkilediğini öne sürüyor.
markasıdır.
Haber Gönder
