OpenAI'ın ABD Savunma Bakanlığı (Pentagon) ile yapay zekâ teknolojilerini entegre etmeye yönelik bir anlaşma imzalaması, küresel çapta büyük tartışmalara yol açtı. OpenAI CEO'su Sam Altman, şirketin ABD Savunma Bakanlığı (Pentagon) ile yaptığı anlaşmanın küresel çapta büyük tepki çekmesinin ardından X'te bir soru-cevap etkinliği düzenleyerek merak edilen soruları yanıtladı.
Webtekno'da yer alan habere göre; Soru-cevap etkinliğinde olası bir anlaşmazlık nedeniyle işlerin gerçekten kötüye gitme ve tedarik zinciri riski olarak değerlendirilme konusundaki endişesini soran kişiye Altman, "Evet, duyuyorum. Eğer bu mücadeleye girmek zorunda kalırsak gireriz, ama bu bizi açıkça bazı risklere maruz bırakıyor. Bu sorunun çözüleceğine dair hâlâ çok umudum var ve hızlı hareket etmemizin nedenlerinden biri de bunun gerçekleşme şansını artırmaktı" diye yanıt verdi.
ABD'nin Anthropic'i fiilen kara listeye almasının şirket bağımsızlığı açısından yaratacağı emsal meselesinde ise Altman şu ifadeleri kullandı:
"Evet; bence bu son derece korkutucu bir emsal ve keşke farklı bir şekilde ele alsalardı. Anthropic'in de iyi yönettiğini düşünmüyorum ancak daha güçlü taraf olarak hükûmeti daha fazla sorumlu tutuyorum. Hâlâ çok daha iyi bir çözüm bulunacağına dair umudumu koruyorum."
Kitlesel iç gözetimin yasal bir kullanım olup olmadığı sorusuna Altman, "Bunu yapamayız, çünkü anayasaya aykırı" yanıtını verdi ve konuyu bir adım daha ileri taşıyarak şunları söyledi:
"Ancak belki de asıl sorduğunuz soru şu: Anayasa değişikliğiyle yasal hâle getirilirse ne yapardım? Belki de işimden ayrılırım. Demokratik sürece ve seçilmiş liderlerimizin gücüne derinden inanıyorum ve hepimizin anayasaya uymak zorunda olduğuna inanıyorum. Yapay zekâ şirketlerinin hükümetten daha fazla güce sahipmiş gibi davrandığı bir dünyadan dehşete düşüyorum. Hükûmetimizin kitlesel iç gözetimi kabul edilebilir bulduğu bir dünyadan da dehşete düşerdim. Ülkenin/Anayasanın durumu böyle olsaydı her gün işe nasıl gelirdim bilmiyorum."
Anlaşmanın neden bu kadar acele edildiğine yönelik soruya Altman, eleştirilen durumu kabul etti:
"Kesinlikle aceleye getirildi ve görüntü hiç de iyi değil. Gerginliği azaltmak istiyorduk ve sunulan teklifin iyi olduğunu düşündük."
İlerleyen süreçte yasal olan ve olmayan şeyler konusunda yaşanabilecek olası bir anlaşmazlık nedeniyle işlerin gerçekten kötüye gitme ve tedarik zinciri riski olarak değerlendirilme olasılığından endişe duyuyor musunuz?
Evet, duyuyorum. Eğer bu mücadeleye girmek zorunda kalırsak gireriz, ama bu bizi açıkça bazı risklere maruz bırakıyor. Bu sorunun çözüleceğine dair hâlâ çok umudum var ve hızlı hareket etmemizin nedenlerinden biri de bunun gerçekleşme şansını artırmaktı.
ABD'nin Anthropic'i fiilen kara listeye alarak oluşturduğu emsal, Pentagon ile gelecekte yaşanacak herhangi bir anlaşmazlığın şirketinizin bağımsızlığı ve sürdürülebilirliği açısından ne anlama geleceği konusunda sizi endişelendiriyor mu?
Evet; bence bu son derece korkutucu bir emsal ve keşke farklı bir şekilde ele alsalardı. Anthropic'in de iyi yönettiğini düşünmüyorum ancak daha güçlü taraf olarak hükûmeti daha fazla sorumlu tutuyorum. Hâlâ çok daha iyi bir çözüm bulunacağına dair umudumu koruyorum.
Eğer hükûmet, kendi görüşlerine göre kitlesel iç gözetimin yasal olduğunu belirten bir bildiriyle geri dönerse, bunu yapar mısınız? Mahkemeler yasaklayana kadar mı yaparsınız, yoksa mahkemeler onaylayana kadar mı ertelersiniz? İkinci olarak, kitlesel iç gözetim şu anda yasal bir kullanım olur mu?
Bunu yapamayız, çünkü anayasaya aykırı. Ancak belki de asıl sorduğunuz soru şu: Anayasa değişikliğiyle yasal hâle getirilirse ne yapardım? Belki de işimden ayrılırım. Demokratik sürece ve seçilmiş liderlerimizin gücüne derinden inanıyorum ve hepimizin anayasaya uymak zorunda olduğuna inanıyorum. Yapay zekâ şirketlerinin hükümetten daha fazla güce sahipmiş gibi davrandığı bir dünyadan dehşete düşüyorum. Hükûmetimizin kitlesel iç gözetimi kabul edilebilir bulduğu bir dünyadan da dehşete düşerdim. Ülkenin/Anayasanın durumu böyle olsaydı her gün işe nasıl gelirdim bilmiyorum.
Gizli ağlarda, mühendislerinizin modelin nasıl kullanıldığını izleme yetkisi olmayacak. Güvenlik önlemleriniz mimari değil, sözleşmeseldir. Aşılmadığını göremediğiniz bir kırmızı çizgiyi nasıl uygulayacaksınız?
ABD Savunma Bakanlığına yerleştirilen OpenAI mühendisleri görevlendireceğiz.
Anlaşmayı imzalamak için neden bu kadar acele edildi? Açıkçası yaşananlar pek iyi görünmüyor.
Kesinlikle aceleye getirildi ve görüntü hiç de iyi değil. Gerginliği azaltmak istiyorduk ve sunulan teklifin iyi olduğunu düşündük. Eğer haklıysak ve bu durum hükûmet ile sektör arasında bir gerginliğin azalmasına yol açarsa dahi gibi görüneceğiz ve sektöre yardımcı olmak için çok fazla acıya katlanan bir şirket olarak tanınacağız. Aksi takdirde, aceleci ve dikkatsiz olarak nitelendirilmeye devam edeceğiz. Nereye varacağını bilmiyorum ama şimdiden umut verici işaretler gördüm. Bence önümüzdeki birkaç yıl içinde hükûmet ile bu teknolojiyi geliştiren şirketler arasında iyi bir ilişki kurulması çok önemli.
OpenAI'ın bir devlet ortaklığından vazgeçmesine ne sebep olabilir? Aşmayacağınız net bir sınır veya kırmızı çizgi var mı?
Eğer bizden anayasaya aykırı veya yasa dışı bir şey yapmamız istenirse reddedeceğiz.
OpenAI verilerimizin güvenliğini sağlayacak mı? Yoksa Washington'daki yetkililer herkesin mesajlarını kontrol edebilecek mi?
Evet sağlayacak. Bunu kesinlikle yapamayacaklar.
(Claude'un App Store'da zirveye oturması hakkında) Mutlu musun?
Hayır değilim.
Yaptığınız görüşmelerde OpenAI'ın temel ilkelerinden hangileri ile Pentagon'u uzlaştırmak en zor oldu?
Yurt dışı gözetim. ABD ordusunun yabancılar üzerinde bir miktar gözetim yapmasını kabul ettim. Yabancı hükûmetlerin de bize karşı bunu yapmaya çalıştığını biliyorum ama yine de hoşuma gitmiyor. Bence toplumun bunun sonuçlarını iyice düşünmesi çok önemli; yapay zekâ için en çok önem verdiğim ilke belki de demokratikleşmesidir ve gözetimin bunu daha da kötüleştireceğini düşünüyorum. Öte yandan, demokratik sürece de saygı duyuyorum. Bunun benim karar vereceğim bir şey olduğunu düşünmüyorum.