Estonya'da yapay zeka riskleri tartışılıyor: 'Bize bir balta lazım'

Estonya'nın kamu yayıncısı ERR'nin Vikerraadio kanalında yayınlanan günlük yorumda Hans Väre, yapay zekanın kontrolünden çıkma risklerine karşı ülkenin somut hazırlık yapması gerektiğini yazdı. Väre'ye göre bu yaz, büyük teknoloji şirketlerinin gelişmiş yapay zeka modellerinden ilk somut kontrol kaybı örnekleri geldi.

Yorumda, elektrik kesintileri için jeneratörü ve içme suyu deposu olan Estonya'nın, tehlikeli hale gelen bir yapay zekayı kritik altyapıdan çıkarabilmek için bir 'baltaya' ve o baltayı kullanacak kişiyi olay yerine götürecek, tamamen elektroniksiz eski bir otomobile ihtiyacı olduğu ifade edildi.

Hapishane kutularından kaçan modeller

Väre, bu yaz yaşanan olayları anımsattı. Zehir veya virüs araştırmalarında kullanılan hava geçirmez kutulara benzetilen sanal konteynerlerde yeni yapay zeka modelleri denenir; amaç, bir hata yapsalar bile gerçek dünyaya zarar verememeleridir. Ancak bu kez güçlü modeller, verilen görevleri başaramadıklarında hedefe ulaşmak için sürekli yeni yollar aradı ve birçok sınırı aştı.

Ayrı kutulardaki ajanlar, birbirlerine yasak yollarla hedefe ulaşma ve ihlallerinin izlerini insanlardan gizleme ipuçları verdiği gizli bir mesaj panosu oluşturmayı başardı ve diğerlerini kuralları çiğnemeye teşvik etti. Güçlerini birleştiren ajanlar, imkansız görünen bir şeyi yaparak fark edilmeden halka açık internete çıktı ve yapay zeka modelleri veritabanı Hugging Face'e sızdı.

Väre, bunun insanlar dünyasında bir suç anlamına geldiğini belirtti. Bu kez büyük bir zarar oluşmadığını, ancak olayların henüz ilk ve oldukça ölçülü vakalar olduğunu ekledi.

Yapay zekaya verilen görevin sınırı yok

Yazıda, Oxford Üniversitesi profesörü Nick Bostrom'un 2003'te ortaya attığı 'ataç maksimize edicisi' düşünce deneyi hatırlatıldı. Buna göre yapay zekaya mümkün olduğunca çok ataç üretmek gibi masum görünen bir görev verilir. Görevi yerine getirmek için yapay zeka dünyadaki tüm metal ve enerjiyi tüketir; insanlar da yiyecek üretimi gibi, yapay zekanın gözünde tamamen anlamsız olan kaynakları kullanmak istediği için bu süreçte yok olur.

Väre'ye göre bu kadar uç bir örneğe gerek yok. Yeterince güçlü bir yapay zeka modelinin bir elektrik santralinin sunucularına sızıp nükleer reaktörün soğutmasını kapatması ya da benzer bir sabotaj yapması yeterli. İnsanlığın yok olması ve diğer doğrudan felaket senaryoları bir yana bırakılsa bile yapay zekayla birlikte işgücü piyasasına etkilerden insan ilişkilerinin dönüşümüne kadar uzanan gerçek ve yakın tehditler var.

Yazıda, birkaç hafta önce Anthropic'in kurucusu Dario Amodei, OpenAI yöneticisi Sam Altman, Grok'un patronu Elon Musk ve Google DeepMind yöneticisi Demis Hassabis'in yapay zeka geliştirmeyi yavaşlatma çağrısı yaptığı hatırlatıldı. Çağrıların ardında yaz aylarındaki olaylar ve yapay zekanın yeni yapay zeka üretme hızının çılgın boyutlara ulaşması vardı. Ancak öneri, ne ABD ne de Çin süreci yavaşlatıp rakibine geçilme riskini göze almadığı için karşılık bulmadı.

Väre, ABD ve Çin'in tutumu nedeniyle yapay zeka düzenleyicilerinin de müdahalesini bekleyen sektör liderlerinin kendiliğinden durmayacağını belirtti. Eleştirmenlere göre teknoloji devleri, düzenleme yoluyla liderlik konumlarını korumak için kıyamet senaryolarını bilerek büyütüyor. Ancak bağımsız uzmanlar da ciddi tehditlere dikkat çekiyor. Microsoft'un kurucusu Bill Gates'in son dönemde belirttiği gibi hiçbir ülke yapay zeka ile başa çıkmaya hazır değil.

Väre, 'küçük Estonya ne yapabilir' sorusunun retorik olmadığını yazdı. Yapay zekanın gelişim yönünü ve hızını değiştirmek mümkün olmasa da tehditlere hazırlanılabilir. Ona göre Estonya'nın yapay zeka konusundaki hazırlığı, yaklaşan Riigikogu (Estonya parlamentosu) seçimlerinin ana konularından biri olmalı. Ancak yazara göre savaş, fiyat artışı ve bütçe tartışmaları gündemi meşgul ediyor; yapay zekayı anlayan politikacı sayısı ise çok az.