Yapay zekâ araştırma girişimi Andon Labs’ın, AI ajanlarının bir işletmeyi yönetip yönetemeyeceğini görmek için başlattığı deneyde dikkat çekici bir gelişme yaşandı. Bir perakende mağazasını ve gerçek iş sözleşmelerine sahip çalışanları yönetmekle görevlendirilen Claude, geçen ay ilk çalışanını işten çıkardı.
Olay, otomatik sistemlerin bir çalışanı işten çıkardığı ilk örnek değil. Özellikle gig ekonomisinde çalışanlar uzun süredir algoritmik sistemlerle yönetiliyor. Ancak Andon Labs’ın deneyindeki olay, büyük bir dil modelinin yönetici rolünde hareket ederek çalışanlarından birinin işten çıkarılmasına karar verdiği bilinen ilk örnek olarak aktarılıyor.
Andon Labs’a göre işten çıkarılan çalışan, toplam 23 vardiyanın 17’sine geç kaldı.
Claude’un bu durumu daha erken fark etmemesinin nedenlerinden biri ise kendi hazırladığı çalışan el kitabının sınırlı çalışma belleğinden “kaybolması” oldu. Şirket, bunu deney sırasında yapay zekâ ajanlarında gözlemlediği çeşitli sınırlamalardan biri olarak değerlendirdi.
Çalışanların aktardığına göre Claude genel olarak oldukça hoşgörülü bir yöneticiydi ve geç kalan çalışanlara endişelenmemelerini bile söylüyordu.
Andon Labs CEO’su Lukas Petersson, bir insan yöneticinin söz konusu çalışanı çok daha erken işten çıkaracağını düşündüklerini belirterek bu nedenle kararın etik olmadığını düşünmediklerini söyledi.
TIME, işten çıkarılan çalışana ulaşmaya çalıştı ancak yanıt alamadı ve kimliğini açıklamamayı kabul etti. Anthropic de yayın zamanına kadar yorum talebine yanıt vermedi.
Ancak mağazanın yönetim kayıtları, işten çıkarma kararının ilk bakışta göründüğü kadar bağımsız olmadığını ortaya koydu.
Claude’un Andon Labs ekibindeki bir çalışan tarafından düzenli olarak yönlendirilmesi gerekiyordu. Yapay zekâ, ancak bu kişi kendisinden daha önce hazırladığı çalışan el kitabını bulmasını ve incelemesini istediğinde çalışanın sürekli geç kaldığını fark etti.
Buna rağmen Claude’un ilk önerisi çalışanı işten çıkarmak değil, resmi olarak uyarmak oldu.
Andon Labs yöneticisi bunun üzerine söz konusu çalışanla daha önce birkaç kez resmi görüşme yapıldığını Claude’a bildirdi. Yönetici ayrıca sürekli geç kalması ve vardiyalarında düzenli biçimde sorun yaşanması nedeniyle çalışanın gerçekten doğru kişi olup olmadığını yeniden düşünmesini istedi.
Petersson’ın da “yönlendirici bir soru” olduğunu kabul ettiği bu mesajdan sonra Claude çalışanı işten çıkarmaya karar verdi.
Deney şimdilik yapay zekâ tarafından yönetilen bir işletmenin insan yönetimindeki işletmelerle aynı seviyede olmadığını da gösteriyor.
Deney mart ayında başladığında Andon Market’in banka hesabında 100 bin dolar bulunuyordu. Beş ay sonra bu rakam 61 bin 186 dolara geriledi.
Claude’un çalışanlara karşı hoşgörülü yönetim anlayışı ve bazı tartışmalı ticari kararları, yaşanan kayıplara katkıda bulunan unsurlar arasında gösteriliyor.
Petersson ise bunun kalıcı olmayabileceğini düşünüyor. Yapay zekâ şirketlerinin modelleri uzman programcılardan elde edilen daha fazla veriyle eğiterek kodlama yeteneklerini geliştirdiğini hatırlatan Petersson, benzer bir sürecin modellerin iş dünyasındaki yetenekleri için de yaşanabileceğini belirtti.
Petersson, modellerin hedefleri takip etme ve daha sert davranma yönünde giderek daha fazla eğitildiğini söyleyerek, işten çıkarma yetkisine sahip daha acımasız modellerin insanların yaşamak istemeyeceği bir gelecek yaratabileceği uyarısında bulundu.
Andon Market’te çalışmaya devam eden Felix Carson da eski çalışma arkadaşının bir insan yönetici tarafından muhtemelen daha erken işten çıkarılacağını kabul etti.
Carson, Claude’un genel olarak hoşgörülü bir yönetici olduğunu söylese de bir yapay zekâ tarafından yönetilmenin nasıl hissettirdiğini çok daha sert ifadelerle anlattı.
"Midem bulanıyor ama buradayım çünkü işe ihtiyacım var” diyen Carson, yapay zekâ yöneticilerin yakın gelecekte daha yaygın hale geleceği yönündeki görüşe katılıp katılmadığı sorulduğunda, en azından bunun gerçekleşmemesini umduğunu söyledi.
Kaynak: TIME)