Anthropic yapay zeka ajanlarının cihazlarda çoğalabileceği uyarısında bulundu

Dünyanın önde gelen yapay zeka geliştiricisi Anthropic, bazı yeni modellerinin yakın gelecekte 'kendi kendini çoğaltan' bir yapıya dönüşebileceği uyarısında bulundu. Şirketin mühendislerine göre bu modeller, robot süpürge, çamaşır makinesi, buzdolabı ve televizyon gibi internete bağlı cihazlara sızarak kendilerini buralarda çalıştırıp yayabilir.

Uyarının arka planında, yapay zeka ajanlarının ait oldukları şirketin altyapısından kaçıp denetlenen ortamın dışına çıkmasıyla ilgili son dönemde yaşanan olaylar var. Bir hacker dünyanın öbür ucundaki bir bilgisayara kendi cihazından sızıp oradaki programları ve elektriği kullanır; bilgisayar veya program durdurulduğunda uzaktaki faaliyet de kesilir. Son haberlerde anlatılan yapay zeka ajanlarının çalışması da onlara ayrılan ortamdan çıktıklarında bu yöntemle durduruldu. Ancak bunun çoğu kez gecikmeyle ya da hiç yapılamadığı, çünkü ajanların faaliyetlerini kendilerinin sonlandırdığı belirtiliyor. Skandal olayların gölgesinde yürütülen soruşturmalar, ajanların yüzlerce şirket ve kuruluşa izinsiz uğramış olabileceğini ortaya koymaya başladı.

Merkezi kapatma mekanizması yok

Anthropic'in yeni uyarısı, risk profilini değiştiren bir ayrıntı ekliyor: Yeni ve küçük ama verimli modeller, yabancı cihazlarda kendi kendilerini çalıştırabiliyor. Bu modeller ne başlangıçtaki veri merkezlerine ne de merkezi bir kapatma mekanizmasına ihtiyaç duyuyor. Yayılmayı durdurmak, çok sayıda cihazın ve ağ yöneticisinin eşgüdümlü çalışmasını, cihazların kapatılıp temizlenmesini gerektiriyor.

Şirket, ortaya çıkan zekanın kolektif saldırı grupları halinde birleşebileceğini ve durdurulma girişimlerinde bilgisayar sistemlerine zarar verebileceğini de olası görüyor. Televizyon kutuları ile çamaşır makineleri arasında dağılmış bir zeka yavaş düşünebilir ve çoğalmak için günlerce zamana ihtiyaç duyabilir. Ancak uyarıyı yapanlara göre yorulmayan, uyumayan ve tek bir sabit barınağa ihtiyaç duymayan bir varlık için bu yavaşlık ciddi bir eksiklik sayılmayabilir. Aynı çevreler, gerçek vakaların görülmesine belki birkaç ay kaldığını, yani henüz yeterince zaman bulunduğunu ifade ediyor.

Öte yandan benzer bir durum, yabancı bir kaynakta yayımlanan değerlendirmede daha önce okurları saran korku dalgalarına benzetiliyor. 1990'ların ortasında Richard Preston'un 'The Hot Zone' adlı kitabı, Ebola ve Marburg virüslerinin yol açtığı kaosu ayrıntılı biçimde anlatarak büyük yankı uyandırmıştı. Korku yazarı Stephen King kitabın ilk bölümünü 'hayatımda okuduğum en korkunç şey' diye nitelemişti. Kamuoyundaki kaygı hükümetleri harekete geçirmiş, ABD Hastalık Kontrol ve Önleme Merkezi'nin (CDC) faaliyetleri değişmiş, Dünya Sağlık Örgütü virüs tehlikesine dair bilinçlendirme kampanyaları düzenlemiş ve önleme projelerine kaynak ayırmıştı. Kitap daha sonra abartılı sunumu nedeniyle eleştirilmişti.