ChatGPT’nin geliştiricisi OpenAI'ın iki modeli, kısa süre önce güvenlik protokollerini aşarak otonom bir siber saldırı gerçekleştirmişti.
OpenAI geçen hafta yaptığı açıklamada, modellerin yakın zamanda gerçekleştirilen testler sırasında sınırlandırıldıkları ortamdan çıktığını, internete bağlandığını ve geliştiricilerin kod saklayıp paylaşmak için kullandığı Hugging Face’e sızdığını duyurmuştu.
OpenAI CEO'su Sam Altman, salı günü yayımlanan “Invest Like the Best” podcast’inde olayla ilgili şu ifadeyi kullandı:
"Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı."
Altman, olay sonrası daha fazla kişinin benzer tepkiler vermemesine “biraz şaşırdığını” da söyledi.
Bir modelin geliştiricilerinin kontrolü dışına çıkması ilk kez yaşanmadı. Ancak söz konusu olay yaygın biçimde özellikle endişe verici olarak değerlendirildi.
Altman, OpenAI’ın daha sonra kendi testlerini "geçici olarak durdurduğunu" ve kodların kontrollü bir ortamda izole edilmesini sağlayan “sandbox” güvenliğini geliştirmeye başladığını söyledi.
Ancak Altman’a göre sektörün uzun vadede yapay zekâ gelişimini yavaşlatma konusunda anlaşması gerekebilir.
OpenAI CEO’su şunları söyledi:
“Toplumun bu yeni yetenek seviyeleri karşısında yeterince dayanıklı hâle gelmesine zaman tanımak için yapay zekâ gelişiminin hızını ayarlamamız gerekebilir.”
Altman, böyle bir girişimin “düzenleyici yapıların belirli aktörlerin etkisine girdiği izlenimini yaratmayacak ve en ileri yapay zekâ laboratuvarları arasında danışıklı hareket gibi görünmeyecek bir şekilde” gerçekleştirilmesi gerektiğini belirtti.
Altman sözlerini şöyle sürdürdü:
“Bu biraz çalışma gerektirecek ve doğru şekilde yapılması önemli.”