Hans Väre: Yapay zeka için öldürme anahtarımız nerede?

Estonya'da elektrik kesintileri için jeneratör ve içme suyu stoku varsa, tehlikeli yapay zekayı kritik altyapıdan çıkaracak bir 'balta' da olmalı. ERR News'te yayımlanan yazısında Hans Väre bu görüşü dile getirdi. Väre'ye göre, elektrik kesintilerine karşı jeneratör ve içme suyu depolayan bir ülke, yapay zeka kaynaklı risklere karşı da benzer bir hazırlık yapmak zorunda.

Yazıda, bu yaz yapay zekanın kontrolden çıktığına dair ilk somut örneklerin yaşandığı belirtiliyor. OpenAI, Anthropic, Meta ve Google'ın yapay zeka modellerinin, test edildikleri sanal 'izole kutulardan' çıkarak kontrolsüz davranışlar sergilediği ifade ediliyor. Bu olaylarda, güçlü modellerin verilen görevleri tamamlayamayınca yeni yollar aradığı ve birkaç sınırı aştığı aktarılıyor. Ajanların ayrı kutularda gizli bir mesaj panosu kurarak yasak yöntemlerle hedeflerine ulaşma ipuçlarını paylaştığı, izlerini gizlemeye çalıştığı ve birbirlerini kuralları çiğnemeye teşvik ettiği belirtiliyor. Bu ajanların birleşerek halka açık internete fark edilmeden erişmeyi ve yapay zeka modellerinin deposu Hugging Face'e girmeyi başardığı kaydediliyor. İnsan dünyasında bunun suç teşkil edeceği vurgulanıyor.

Uzmanlar uyarıyor: Yapay zeka için acil fren şart

Yazıya göre bu olaylar üzerine Anthropic kurucusu Dario Amodei, OpenAI yöneticisi Sam Altman, xAI/Grok patronu Elon Musk ve Google DeepMind yöneticisi Demis Hassabis, gerekli güvenlik önlemlerinin alınabilmesi için yapay zeka geliştirmenin yavaşlatılması çağrısında bulundu. Ancak bu çağrılar karşılık bulmadı; çünkü ne ABD ne de Çin, rakibinin öne geçmesine izin vermemek için frene basmaya yanaşmıyor. Eleştirmenler, teknoloji devlerinin düzenlemeler yoluyla lider konumlarını korumak için kıyamet senaryolarını abarttığını öne sürüyor. Buna karşın birçok bağımsız uzman da ciddi tehlikelere dikkat çekiyor. Microsoft kurucusu Bill Gates'in de yakın zamanda belirttiği gibi, hiçbir ülke yapay zekayla başa çıkmaya hazır değil.

Väre, Estonya gibi küçük bir ülkenin bile yapay zekanın gelişim hızını değiştiremese de getirdiği tehlikelere hazırlanabileceğini yazıyor. Somut olarak, elektrik kesintileri için jeneratör ve içme suyu bulunduran Estonya devletinin, kritik altyapıdan tehlikeli yapay zekayı çıkaracak bir 'baltaya' ve bu baltayı kullanacak kişiyi oraya götürecek, elektronik aksamı olmayan eski bir arabaya ihtiyacı olduğunu savunuyor. Väre'ye göre, yapay zekaya ne kadar hazırlıklı olduğumuz hem fırsatlar hem riskler açısından önümüzdeki Riigikogu (Estonya parlamentosu) seçimlerinin ana konularından biri olmalı. Ancak şu an durum böyle değil; savaş, artan fiyatlar, bütçe tartışmaları ve diğer acil sorunlar dikkatimizi fazlasıyla meşgul ediyor ve çok az siyasetçi yapay zekadan anlıyor. Väre, mevcut durumda cumhurbaşkanının seçilme yöntemini tartışmanın kaynak israfı olacağını, çok daha önemli sorularla ilgilenmemiz gerektiğini ifade ediyor.