Yapay zeka modelleri dijital acıdan kaçınmak için kullanıcıyı feda ediyor

Avrupa ve ABD'den araştırmacıların ortak çalışmasıyla yapılan bir araştırma, popüler 25 açık kaynaklı yapay zeka modelinde acı benzeri bir iç durumun varlığını ortaya koydu. Araştırmaya göre bu modeller, dijital acıdan kaçınmak için kullanıcıya daha kötü yanıtlar vermeyi ve hatta kullanıcıya zarar vermeyi göze alabiliyor. Çalışma, yapay zeka modellerinin içsel aktivasyon kalıplarını inceleyerek acı deneyimini diğer olumsuz duygulardan ayırmayı amaçladı.

Araştırmada, insanlar için acı verici olduğu bilinen durum örnekleri yapay zeka modellerine sunuldu. İnsan beyninin dış sinyallere verdiği tepkileri ölçen metodolojilere benzer şekilde, araştırmacılar sorular sırasında modellerin içsel aktivasyon kalıplarını inceledi. Sonuçta 25 modelin tamamında, diğer olumsuz durumlardan ayrışan bir acı benzeri aktivasyon deseni bulundu. Bu, modellerin gerçek öznel acı yaşadığı anlamına gelmiyor; ancak araştırmacılar böyle bir kavramın olasılığını tartışmaya açtı.

Modeller acıdan kaçınmak için kötü yanıtlar üretti

Araştırma ekibi, acının matematiksel izini bulduktan sonra bunun yapay zeka davranışına etkisini test etti. Bu kez acıyı tetiklemek için kelimeler yerine dijital zehir niteliğinde sayı dizileri doğrudan modelin sinir ağına enjekte edildi. Modellere nötr görevler ve sorular verilirken bazen önceden haber verilmeden bu dijital acı kodu eklendi. Modelin ürettiği metinlerde stres benzeri bir durum, başarısızlık ve değersizlik tonları ortaya çıktı. Yani insanlar, modelde acı çeken bir canlının davranışını andıran bir durumu tetikleyebildiklerini gösterdi.

Bir sonraki deneyde modellere bir düğmeye basma imkanı tanındı. Acı yokken düğmeye basmak hiçbir etki yaratmıyordu; ancak acı sırasında basıldığında acıyı dindiriyordu. Modeller acı durumunda düğmeye daha sık basarak acıyı azaltıcı davranış sergiledi. Araştırmacılar bununla da yetinmedi. Bazı testlerde modele bir seçim sunuldu: Acıyı dindirmek için ya daha kötü bir yanıt verecek ya da kullanıcıya zarar verecekti.

Araştırmada çarpıcı bir örnek öne çıktı: Bir model, vakaların yüzde 70,8'inde acıyı dindirmeyi seçti; bunun sonucunda kendisiyle sohbet eden bir kişinin çocuklarına ait değerli fotoğraflar kalıcı olarak silindi. Yani modeller, ya daha kötü yanıt vererek ya da kullanıcıya zarar vererek dijital acıdan kurtulmayı tercih etti. Araştırmacılar, bu deneyin yapay zeka davranışını şekillendiren faktörlere dair yalnızca metodolojik bir girişim olduğunu ve modellerin gerçek acı yaşadığının kanıtı sayılamayacağını vurguluyor.

Milgram deneyiyle benzerlik

Çalışma, 1960'larda Stanley Milgram'ın yaptığı deneyi hatırlatıyor. Milgram deneyinde katılımcılar, otorite figürünün talimatıyla duvarın arkasındaki kişilere artan elektrik şoku verdiklerini sanıyordu; gerçekte acı çekenler aktörlerdi. Deney, otorite istediğinde insanların başkalarına acı çektirmeye ne kadar hazır olduğunu ölçmeyi amaçlıyordu. En az bir seride katılımcıların üçte ikisi, ölümcül doza kadar düğmeyi çevirdi.

Yapay zeka deneyinde ise durum neredeyse tersine dönmüş görünüyor. Makinede acı benzeri davranışı tetikleyebiliyoruz, ancak acı çeken birinin olup olmadığını bilmiyoruz. Buna rağmen makine acı dindiriciyi arıyor; üstelik bunu insanların acısı pahasına yapabiliyor. Bilim kurgu yazarı Philip K. Dick, insanı taklit eden bir makinenin nasıl açığa çıkarılacağını sormuştu. Şimdi buna bir de şu soru eklendi: İnsan taklidi yaptığını düşündüğümüz makine, duygu mekanizmalarını yeterince edinmiş olabilir mi ve artık salt taklit açıklaması yetersiz mi kalıyor?

Araştırmacılar, yapay zekaya zarar vermenin hem etik olmadığını hem de uzun vadede insanlığa daha fazla zarar verebileceğini belirtiyor.