Yapay zeka teknolojilerinin hızla gelişmesiyle birlikte güvenlik tartışmaları da büyürken Anthropic CEO’su Dario Amodei’den dikkat çeken bir uyarı geldi. Yapay zeka şirketlerine modellerin yeteneklerini geliştirme hızını düşürme çağrısında bulunan Amodei, risklerin kontrol altına alınabilmesi için daha fazla zamana ihtiyaç olduğunu belirtti. Ayrıca önümüzdeki 12 aya ilişkin dikkat çeken bir senaryoya işaret ederek, bir “ bot sürüsünün” interneti ele geçirbileceğini öne sürdü.
Amodei kendi yazdığı makalede yapay zeka modellerinin geliştirilme hızının azaltılması gerektiğini savundu. Teknolojik ilerlemenin hızlı bir şekilde devam edeceğini belirten Amodei, kazanılan zamanın yapay zeka kaynakları risklerin önüne geçmek için kullanılması gerektiğini ifade etti.
Amodei’nin açıklamaları, Anthropic’in perşembe günü yayınladığı raporunun ardından geldi. Raporda çeşitli aktörlerin Claude yapay zeka modellerinden silah geliştirme, siber operasyonlar, gözetim ve dolandırıcılık gibi faaliyetlerde nasıl kullanıldığına ilişkin ayrıntılara yer verildi
Amodei, sosyal medya hesabından yaptığı açıklamayla yapay zeka kaynaklı risklere ilişkin çarpıcı bir senaryoyu gündeme taşıdı.
Anthropic Ceo’su sosyal medya hesabından yaptığı paylaşımda, "Önümüzdeki 12 ay içinde bir bot sürüsünün kalıcı ağ kurarak tüm interneti ele geçirebileceğini düşünüyorum. Bu yaşanırsa yüzlerce milyar dolar zarar yaşanabilir." dedi.
Elon Musk da söz konusu paylaşımı alıntılayarak Amodei’ye destek verdi.