Kaimar Karu: Yapay zekâ riskleri gerçek ama algı yanlış

Estonlu teknoloji yöneticisi ve eski kamu görevlisi Kaimar Karu, yapay zekâ (YZ) ajanları hakkındaki güncel tartışmayı eleştirdi. Karu'ya göre son haftalarda YZ ve YZ ajanları üzerine çıkan haberler, üst düzey siyasetçilerin ve toplum önderlerinin açıklamaları, her şeyi düzenleme telaşı ve Avustralya'daki sağlık verileri olayı kamuoyunda ciddi bir kafa karışıklığı yarattı. Karu, baskın söylemin sorunlu olduğunu belirtiyor.

Karu, OpenAI, Anthropic ve benzeri büyük dil modeli (LLM) sağlayıcılarının sistemlere kendi başına sızan, ortalığı karıştıran "kaçak ajanları" olmadığını vurguluyor. Ona göre bu tür bir çerçeveleme gerçeği yansıtmıyor. Ortada olan şey, belirli bir amaç için inşa edilmiş, yetersiz ayrıntı ve kısıtlamalarla verilen komutları yerine getiren otomatik uygulamalar; yani yazılım. Hem de güçlü bir yazılım.

Bu uygulamaların ahlakı yok; etik tartışma yapmaz, yasalar ve toplumsal kurallar bağlamında hareket etmez. Onlara çeşitli kurallar "yumuşak kısıt" olarak yazılabilir, ancak bu sınırlar deliktir; çünkü teknolojinin kendine özgü yapısı nedeniyle uygulamalar tüm konulan koşulları yerine getirmeyebilir.

Karu'ya göre uygulamaya verilen görev (bilinçli olarak) fazla genel tanımlandıysa, güvenlik önlemleri (bilinçli olarak) eksik bırakıldıysa, izleme ve raporlama mekanizmaları zayıf kaldıysa ya da en iyi uygulamalar hiçe sayıldıysa suçlu olarak çalıştırılan uygulamaya bakmak yanlıştır.

Şişirilmiş korku anlatısı

YZ ajanlarının altındaki teknolojinin deneyimi yok; yasallık ve izin verilebilirlik kavramı yok. Buradaki olasılıksallık, eskiden alıştığımız biçimde işlemiyor. Karu, köpeğiyle verdiği örnekle durumu açıklıyor: Labradorunuza top atıp "Yakala!" diye bağırdığınızda köpeğin alçak çitten atlayacağını, sığ dereden geçerken ormanı kesip köprü kurmayacağını, oynayan çocuğun üstüne basmayacağını ve size topu getireceğini varsayabilirsiniz. Oysa bir YZ ajanı, gerekli araçlara erişimi varsa eğitim verileri, ağırlıkları ve ayarları nedeniyle insanlara absürt ya da tehlikeli görünen adımları atarak görevi "tamamlamaya" çalışabilir.

Karu, Avustralya sağlık bilgi sistemlerine yönelik sözde "kötü YZ ajanı hacki"nin de aslında olmadığını yazıyor. Bilinenlere göre ya beklenmedik bir yoldan kamuya açık verilere erişen bir otomatik uygulama (yani eksik tasarlanmış bir sağlık sistemi mimarisi) ya da gizli verilere erişmek için güvenlik açığı kullanan bir uygulama (yani yetersiz güvenlik testleri) söz konusu. Durum, veriyle ilgilenen bir vatandaşın bu verileri açık bir web adresinde bulmasından ya da bir hackerın sistemde güvenlik açığı keşfetmesinden özünde farklı değil.

Ancak Karu'ya göre önemli fark, bu tür olayların YZ ajanları dünyasında ne yoğunlukta yaşanacağı ve ne kadar (tehlikeli) bir etki yaratabileceğinde. Artık her birey, grup, şirket ve devlet, eskiden çok zaman alacak ya da pahalı olduğu için hiç yapılmayacak görevleri otomatikleştirebilir. Bazıları YZ ajanlarını, insanın seçmeyeceği çözümlere; örneğin yasalarla çatışmaya yöneltebilir.

Karu, bazı durumlarda yasa ihlalinin tam da uygulamayı çalıştıranın istediği şey olduğunu belirtiyor. Kişisel veri hırsızlığı, ticari sır hırsızlığı, diğer ülkelerin kurumlarında ya da kritik hizmet sağlayıcılarında güvenlik açığı bulma ve kullanma artık kat kat daha hızlı yapılabiliyor. Ancak ona göre hiçbirinde sorumluluk açısından "YZ ajanı yaptı" denemez. "Çekiç yaptı" ya da "balta yaptı" denemeyeceği gibi. Çekiç kafaya düşse bile onu oraya dikkatsizce bırakan ya da iskeleyi kötü kuran biri vardır; çekiç düşmeyi seçmemiştir.

Düzenleme işe yarar mı?

Karu, yeni geliştirme düzenlemelerinin önemli bir etki yaratmayacağı görüşünde. Teknoloji o kadar ilerledi ki istenirse gizlice geliştirilebilir. Kullanım düzenlemeleri kısmen işleyebilir; ama bu yalnızca yasa ihlalinden kaçınmaya çalışan tarafları bağlar, teknolojiyi kötüye kullananları değil. Ayrıca uluslararası konumunu güçlendirmek isteyen, farklı yönetim ve vatandaşlık özgürlükleri olan ülkelerin bu düzenlemelere uyması ya da uyuyormuş gibi yapıp gerçekten uygulaması düşük olasılık.

Karu, düzenlemeleri desteklemek için öne sürülen yüzdelik tahminlerin de kurgu olduğunu söylüyor. "Yüzde 10 olasılıkla..." veya "gelecekteki vakaların yüzde 50'sinde..." gibi ifadeler, arkalarına bilim dışı çalışmalar ve araştırmalar konulsa bile uydurma kalıyor. Ona göre böyle tahminleri güvenilir biçimde yapma yeteneğimiz şu an yok; çok fazla bilinmez var.

Karu, tehdidin beklenmedik biçimde bilinç kazanıp insanlıktan nefret etmeye başlayan bir LLM uygulaması değil, LLM uygulamalarını kullanan insanlar olduğunu vurguluyor. Ona göre YZ psikozu çok yaygın. Karu, bazı kişilerin bilgisizlikten yanlış bilgi tuzağına düştüğünü, bazılarının ise hiç korkmadığını, LLM uygulamalarının çoktan bilince ya da genel yapay zekâya (AGI) ulaştığına inandığını belirtiyor. Bir başka grubun gelirinin ise insanların bu teknolojiye inanmasına bağlı olduğunu ekliyor; bu kişiler ya teknolojiyi geliştiriyor ya yatırımcı parası toplamış durumda ya da kendilerinin de az bildiği konuyu para kazanma fırsatına çeviriyor.