Kaimar Karu: Yapay zeka riskleri gerçek ama sandığınız gibi değil

Estonyalı teknoloji yazarı Kaimar Karu, ERR News'de yayımlanan analizinde yapay zeka risklerinin gerçek olduğunu ancak bu risklerin kamuoyunda sunulduğu gibi "asi yapay zeka ajanlarından" kaynaklanmadığını savundu. Karu'ya göre son haftalarda Avustralya sağlık verilerinin "hacklenmesi" gibi olaylar, otomatik uygulamalar ve bunları yeterince denetlemeyen insanlar hakkında daha fazla soru işareti yaratıyor.

Avustralya sağlık verisi olayında ne oldu?

Karu, Avustralya sağlık bilgi sistemlerinde yaşanan olayın kamuoyuna yansıtıldığı gibi bir "kötü niyetli yapay zeka ajanı" saldırısı olmadığını belirtiyor. Bilinenlere göre ya otomatik bir uygulama kamuya açık verilere beklenmedik bir yöntemle erişti ya da vatandaşların verilerini bulmak isteyenlerin karşılaşabileceği türden bir güvenlik açığı kullanıldı. İlk durumda sorun yetersiz planlanmış ya da belgelenmiş sistem mimarisinde, ikincisinde ise önceden yapılmayan güvenlik testlerinde.

Karu, "Yapay zeka ajanları" diye tanımlanan yazılımların kendi ahlaki yargıları veya yasal sınırlara dair farkındalıkları olmadığını vurguluyor. Bu tür uygulamalar, kendilerine verilen görevi yerine getirmek için eğitim verilerine ve yapılandırmalarına dayanarak, insana mantıksız veya tehlikeli görünen adımlar atabiliyor. Örneğin bir köpeğe atılan topu getirmesini beklerken, bir otomasyon aracı aynı görevi tamamlamak için çitleri yıkabilir, dereleri kurutabilir veya çocukların üzerinden geçebilir. Ancak Karu'ya göre bu, uygulamanın kendi bilinci olduğu anlamına gelmiyor.

Yeni düzenlemeler caydırıcı olur mu?

Karu, geliştirmeyi düzenleyen yeni yasaların önemli bir etkisi olmayacağı görüşünde. Teknoloji, yeterli ilgi olduğunda gizli yürütülebilecek kadar ilerlemiş durumda. Kullanımı düzenleyen kurallar ise yalnızca yasaya uymak isteyenleri etkiler; teknolojiyi kötüye kullananları değil. Ayrıca kendi siyasi sistemleri ve sivil özgürlükleri farklı olan ülkelerin bu tür düzenlemelere uyması da beklenmemeli.

Yapay zeka korkusu etrafında dolaşan yüzdelik ifadelerin ise kurgu olduğunu belirten Karu, "%10 olasılıkla..." veya "gelecekteki vakaların %50'sinde..." gibi iddiaların bilimsel temeli olmadığını, bu tahminleri güvenilir biçimde yapma yeteneğinden yoksun olduğumuzu yazıyor.

Tartışmada üç gruba dikkat çekiyor: konuyu bilmeden yanlış bilgilere kapılanlar (aralarında çok sayıda politikacı ve kamu figürü var), yapay zeka uygulamalarının çoktan bilinç kazandığına inanan iyimserler ve gelirleri doğrudan bu inanca bağlı olan kişiler. Karu, ikinci ve üçüncü grubun yarattığı "yapay zeka çılgınlığının" dolandırıcılar, sahtekarlar ve kötü niyetli aktörler tarafından istismar edildiğini söylüyor.

Sonuç olarak Karu, yapay zeka risklerinin hafife alınmaması gerektiğini ancak sorumluluğun yazılıma değil, onu tasarlayan, denetleyen ve kullanan insanlara ait olduğunu vurguluyor.