Yapay zeka teknolojileri geliştikçe, bu teknolojilerin güvenliği ve fikri mülkiyet hakları da büyük bir tartışma konusu haline geliyor. Google'ın paylaştığı rapor da bunun adeta bir örneği.
Android Authority'de yer alan habere göre; Google, popüler yapay zeka modeli Gemini'yi hedef alan büyük çaplı bir "klonlama" girişimini ortaya çıkardı. Şirketin son Tehdit İstihbarat Grubu raporu, Gemini'nin nasıl düşündüğünü çözmek için on binlerce sorgu kullanıldığını gözler önüne serdi.
Google'ın raporuna göre, bir aktör Gemini'ye 100.000'den fazla komut (prompt) göndererek modelin akıl yürütme yeteneklerini çözmeye çalıştı. "Damıtma" (distillation) saldırısı olarak adlandırılan bu yöntemde, saldırganlar modeli tekrar tekrar sorgulayarak verdiği yanıtları analiz ediyor ve bu yanıtları rakip bir sistemi eğitmek için kullanıyor. Google, saldırganların sistemlere sızmadığını ve meşru API erişimini kullandıklarını ancak bu faaliyetin hizmet şartlarını ihlal ettiğini ve fikri mülkiyet hırsızlığı anlamına geldiğini belirtti.
Raporda dikkat çeken en önemli detay, saldırının Gemini'nin "akıl yürütme" yeteneklerine odaklanmış olması. Normal şartlarda Gemini, tam dahili "düşünce zincirini" kullanıcılara göstermiyor. Ancak Google'a göre saldırganlar, 100 bini aşkın komutla yapay zekayı nasıl akıl yürüttüğünü ifşa etmeye zorladı. Google, bu girişimi gerçek zamanlı olarak tespit ettiğini ve koruma önlemlerinin aldığını duyurdu.
Google, bu girişimlerin arkasındaki isimleri açıklamasa da, çoğu girişimin rekabet avantajı elde etmek isteyen özel şirketler ve araştırmacılar tarafından gerçekleştirildiğini belirtti. Google Tehdit İstihbarat Grubu Baş Analisti John Hultquist, NBC News'e verdiği demeçte, işletmelerin hassas verilerle eğitilmiş kendi özel yapay zeka sistemlerini kurdukça, bu tür klonlama girişimlerinin sektör genelinde daha yaygın hale gelebileceği konusunda uyardı.
Rapor sadece model çıkarma girişimleriyle sınırlı değil. Google ayrıca tehdit aktörlerinin Gemini API'sini kullanarak anında kod üreten kötü amaçlı yazılımlar (malware) ve yapay zeka destekli oltalama (phishing) kampanyaları denediğini de tespit etti. Şirket, bu tür kötüye kullanımlarla ilişkili hesapların devre dışı bırakıldığını ve güvenlik önlemlerinin güncellendiğini açıkladı.
markasıdır.
Haber Gönder
Okuyucu Yorumları 0 yorum