Yapay zekâ geliştiricileri mahkûm ikilemiyle karşı karşıya

Estonca bilim programı R2'nin teknoloji yorumunda Kristjan Port, yapay zekâ geliştiricilerinin oyun teorisinin klasik 'mahkûm ikilemi' ile karşı karşıya olduğunu değerlendirdi. Port'a göre firma, ancak rakiplerini daha güçlü bir araçla dizginleyebileceğine inandığında hız kesmeye razı oluyor.

Port, değerlendirmesinde OpenAI yöneticisi Sam Altman'ın son açıklamasını hatırlattı. Altman, şirketin en yeni yapay zekâ modelini güvenlik riskleri nedeniyle rafa kaldırdığını duyurmuştu. Yorumcuya göre Altman bu kararı sessizce de uygulayabilirdi; açıklamayı kamuya duyurması, diğer oyuncuları da yavaşlamaya davet eden bir mesaj işlevi görüyor.

Oyun teorisi ne anlatıyor?

Mahkûm ikileminde, farklı cezalarla yargılanan iki kişi birbirini ele verip vermeme kararı verir. Bir daha karşılaşmayacaklarsa, diğerinin ne yaptığından bağımsız olarak karşı tarafı ele vermek stratejik olarak tercih edilir. Bütün açısından bu çözüm en iyisi değildir; ama oyunun tuzağı tam da budur ve literatürde 'Nash dengesi' olarak bilinir. Adını, yaşamı dört Oscar ödüllü 'Akıl Oyunları' filmine konu olan matematikçi John Nash'ten alır.

Oyun teorisyenleri, tarafların karşılaşmaya devam etmesi durumunda işbirliğiyle başlamayı ve ardından karşı tarafın bir önceki hamlesini tekrarlamayı öneriyor. Port, buna yakın bir senaryoyu 'yıpratma savaşı' olarak tanımlıyor: Her iki taraf, katlanılmaz hâle gelse bile kazanmak için kaynak aktarmayı sürdürür, geri adım atamaz ve bunu ilk yapanın karşı taraf olmasını bekler. Bu tür durumlarda taraflar anlaşamadıkları için 'yıkıcı Nash dengesi' doğar.

Port, bu senaryoların iş dünyasından siyasete ve savaşlara kadar her alanda her gün ortaya çıktığını yazıyor. Yeterince akıllı taraflar zararı en aza indirmeye çalışır. Birbirlerine güvenemez ve kendi aralarında yaptıkları anlaşmayı uygulatamazlarsa, anlaşmayı yürürlüğe koyacak yetkiye sahip ya da bu yetkiyi devredebilecekleri dışarıdan bir aktörü devreye sokarlar.

Şirketler düzenleme çağrısı yapmıştı

Port, otonom yapay zekâ ajanlarının geliştiricilerin sistemlerinden çıkarak çeşitli kuruluşların bilgisayar ağlarını tehdit ettiği son olaylardan önce bile OpenAI, Anthropic, Google ve Meta'nın devletin hakem rolü üstlenmesini ve kendi düzenlemeleriyle tehlikeli hâle gelen hızı kesmesini istediğini hatırlatıyor. Ancak ABD siyaseti hem iç hem de jeopolitik düzlemde benzer bir mahkûm ikilemi ve tırmanma oyunu kilitlenmesi yaşadığı için frene basamıyor.

Bu arada yapay zekâ geliştiricileri özdenetime dayalı bir modele yönelmiş durumda. Henüz fikir taslağı aşamasındaki girişimin çalışma başlığı, önde gelen yapay zekâ modellerini geliştirenler için bir üst otorite (Standards Authority for Frontier AI, SAFA) kurulmasına işaret ediyor; ancak yayımlanan fikrin şu an bir uygulayıcısı yok.

Port'a göre belki de noter hizmetini andıran bir anlaşmaya varılır: Taraflar bağımsız bir hukuki aracıya ciddi miktarda maddi teminat ya da fikri mülkiyet hakları bırakır ve bu, sıkı ve denetlenebilir koşullarla düzenlenir. Taraflardan biri izin verilen sınırı aşarsa teminat karşı tarafa geçer. Ancak fikirlerin olgunlaşıp gerçeğe dönüşmesi zaman alacak. Üstelik önemli tarafların tamamının bir araya gelmesi de muhtemelen mümkün değil; çünkü bazıları jeopolitik bir rakibin topraklarında bulunuyor.

Port, yapay zekâ risklerinin tırmanması sürdükçe yalnızca birbiriyle çekişen rakiplerin değil, izleyicilerin de zarar göreceğini belirtiyor. Kurumsal anlaşma güvensizlik yüzünden tıkandığında geriye birkaç saf oyun teorisi hamlesi kalıyor.

Bunlardan biri gerilimi küçük adımlarla düşürmek. Örneğin bir taraf üretim hacmini küçük ama fark edilir bir adımla azaltır ve bunu 30 gün boyunca sürdüreceğini taahhüt eder. Karşı taraf da aynı kesintiyi yaparsa ilk taraf bir adım daha azaltır. Karşı taraf bunu zayıflık sayıp durumu kullanırsa ilk taraf derhâl tam rekabet agresifliğine döner.

İkinci seçenek daha radikal: Taraflardan biri kendi hareket alanını tek taraflı olarak sınırlar ve köprüleri yakar. Port, kilitlenmeyi kırmada iyi niyete güvenilemeyeceğini vurguluyor. Tehlikeli bir silahın sahibinin gücünün, onu kullanmama kararından geldiğini söyleyenler var. OpenAI tek taraflı bir özdenetim ilan edecekse, diğer tarafların iyi niyetine, öz disiplinine ya da kamuoyunun sert hoşgörüsüne duyulan inançtan daha fazlasına sahip olması gerekir.