Eston akademisyen: 'İsyancı yapay zeka' söylemi borsa hikayesine hizmet ediyor

Estonya'nın önde gelen bilgisayar bilimcilerinden, Cybernetica Bilgi Güvenliği Enstitüsü (Estonca: Cybernetica infoturbeinstituut) direktörü ve akademisyen Dan Bogdanov, bilgisayar sistemlerine ve sunuculara kendi başına sızan, kontrolden çıkmış yapay zeka anlatısının gerçeği yansıtmadığını söyledi. Bogdanov'a göre bu söylem bir sis perdesi; asıl tehdit ise çok daha sıradan siber ve ekonomik riskler.

Bogdanov, ERR radyosunun "Uudis+" programında yaptığı değerlendirmede, okuluna kızgın öğrencilerin yıllar önce bile internetten hazır kod parçaları bularak okulun web sitesini çökertebildiğini ya da e-hizmetleri bozabildiğini hatırlattı. Halka açık yapay zeka hizmetleri bu tür doğrudan saldırıları engelliyor; ancak açık modelleri kullanıcı kendi bilgisayar gücüyle baştan sona kendisi yönetiyor. Son altı ayda saldırganların yapay zeka yardımıyla çeşitli kurumların sistemlerine birkaç kez sızdığını belirtti.

"Küçük Cengizhanlar" tehdidi

Bu teknolojinin yaygınlaşması tüm kuruluşlar için tehdit tablosunu değiştiriyor. Bogdanov, "Bir şirket ya da kurum 'saldırganlar için çok küçük ve önemsizim' diye düşünüyorsa, bu yanılgıyı hemen bir kenara bıraksın. Yapay zeka saldırılarıyla küçük Cengizhanlar, sırf yapabildikleri için dünyadaki bir IP adresine sahip her şeye saldırmaya başlayabilir" dedi.

Siber uzayda yoğun bir saldırı-savunma faaliyeti sürerken büyük teknoloji şirketleri kamuoyuna çelişkili mesajlar veriyor. Geçen yaz bazı şirketler, yapay zekalarının bir veya birden fazla firmanın sistemini kırdığını duyuran basın bültenleri yayımladı. Bogdanov, suçu aslında makineye saldırı emri veren insanların işlediğini, ancak kamuoyunun sorumluluğu yazılımın üzerine yıktığını vurguladı.

"Şunu netleştirelim: Yapay zeka kendi kendine yaramazlık yapmaya başlamaz" diyen Bogdanov, "Bunların hepsi bir pazarlama taktiği ve anlatısı. Kontrolden çıkmış yapay zeka hikayesi aslında insanların kapıyı açık bırakıp 'İşte, bak, orada!' demesi anlamına geliyor. Bugün hâlâ işler bu şekilde yürüyor" ifadelerini kullandı.

Kendi başına hareket eden bir süper zeka anlatısı öncelikle ABD'li teknoloji devlerinin çıkarına hizmet ediyor. Avrupa'nın en büyük yapay zeka şirketi Mistral'in yöneticisi Arthur Mensch ise yapay zekayı, insanın başına net bir tasma takabileceği sıradan bir yazılım olarak nitelendiriyor. Bogdanov, "Şirketler için teknolojiyi kendilerinin kontrol etmediğine inanılması faydalıdır. Buna inanırsak, 'onları düzenlemeye gerek yok, nasıl olsa baş edemiyorlar' diyerek pes ederiz. Bu aceleci bir teslimiyet ve tamamen yanlış" diye konuştu.

Halka arz öncesi değer şişirme

Bu sis perdesinin arkasından teknoloji şirketlerinin halka arzdan önce piyasa değerini yükseltme isteği görünüyor. Bogdanov, "OpenAI ve Anthropic gibi henüz borsaya girmemiş çok büyük ve tanınmış şirketlerin halka arz olabileceği ilginç günlere yaklaşıyoruz. Bu bağlamda haklarında konuşulması çok işlerine geliyor, çünkü o zaman belki hisse alınmak isteniyor; işler böyle yürüyor" dedi.

Goldman Sachs Global Institute'un değerlendirmesine göre önümüzdeki beş-altı yılda yapay zeka altyapısına yedi trilyon dolar yatırılacak. Bogdanov, "Bu durumda paranın geri dönmesi için bu yapay zekayı ne kadar satın almamız gerektiği sorusu ortaya çıkıyor. Rakam muazzam; bugünle karşılaştırıldığında yapay zeka şirketlerinin cirosunun 100 kat artması gerekiyor. Belki de bu, inanılmaz borsa değerlemelerini ve yaşanan tüm çılgınlığı açıklıyor" diye ekledi.

Para yarışının yanı sıra yapay zekanın savaş sanayisinde kullanımı da yaygınlaşıyor. Son beş-on yılda insansız hava, deniz ve kara araçları büyük gelişme gösterdi. Dizüstü bilgisayarda çalışan bir model kendi başına büyük zarar vermeyebilir; ancak fiziksel ortamda hareket eden ve silah kullanan bir sistem doğrudan tehdit oluşturuyor. Ukrayna cephesindeki deneyim, mühendislerin giderek daha yetenekli, kendi kendini hedefleyen ve yöneten silahlar geliştirdiğini gösteriyor.

Bogdanov, "Makinenin bunu kendi kendine yapmadığını hatırlamak önemli" diyerek sözlerini şöyle sürdürdü: "İnsan makineyi inşa etti ve ona bir amaç verdi. Bu amaç kusurluysa, örneğin bir üniformalı asker yerine vurulmaması gereken başka bir üniformalı asker vuruluyorsa, bu yine insan hatasıdır. Hemen 'makine çıldırdı' diyemeyiz."

Yapay zeka, savaş sanayisinin yanı sıra gündelik ekonomiyi de dönüştürüyor. Bogdanov bunu, elektriğin 20-30 yıl içinde fabrikalarda buhar makinesinin yerini almasına ve uydu navigasyonunun (GPS) kağıt haritaları eğlenceye dönüştürmesine benzetiyor. GPS sürücüleri ve yayaları sokakları ezberleme gereğinden kurtardığı gibi, yapay zeka da insanlardan giderek daha fazla iş dilimini devralıyor.

Bu durumda makinelerin mülkiyeti sorusu öne çıkıyor. Bogdanov, "Her ekonomi alanında insan daha az iş yapmaya başlarsa, onun yerine çalışan makine kimin olacak? Bu bizim kendi Estonya makinemiz mi, Avrupa makinesi mi, yoksa bir başkasının kontrolündeki ve her an ekonomik süreçlerimizi etkileyebilecek bir makine mi?" diye sordu.

Yabancı platformlara bağımlı ekonomi ve eğitim sistemi Estonya'nın bütçesini doğrudan baskı altına alıyor. Bogdanov, "Asıl endişe şu: Tüm ekonomik faaliyetlerde ya da eğitim ve dijital atılımda kendimizi teknolojiye fazla bağımlı hale getirirsek, süreçlerimizdeki değer para olarak yabancı teknoloji şirketlerinin kasasına akar. Estonya devleti zamanla daha da yoksullaşır ve bunu dengelemek için sürekli yeni şeyler üretmek zorunda kalırız" değerlendirmesinde bulundu.

Bu riskleri daha ayrıntılı değerlendirmek için Adalet ve Dijital İşler Bakanlığı bu yıl Cybernetica'dan bir araştırma sipariş etti. Araştırma, yapay zekanın yaygınlaşmasıyla ortaya çıkan toplumsal ve siber güvenlik tehditlerini bir araya getiriyor. Estonya Bilimler Akademisi siber güvenlik komisyonu ile bakanlığın internet sitesinde kamuya açık olan analiz, hem bireylere hem şirketlere hem de devlet kurumlarına davranış rehberi sunuyor. Bogdanov, yapay zekanın gölgesinde kuantum bilgisayarlar konusunun da gündemde kaldığını, bu nedenle devletin bu yıl kurumların kuantum dirençli kriptografiye geçişine yardımcı olacak bir yol haritası yayımladığını belirtti.

Bölgesel yasak ve kuralların etkisi küresel ölçekte sınırlı kalıyor; Avrupa Birliği yapay zeka gelişimini yavaşlatırsa diğer bölgeler gaza basıyor. Ulusal yönergeler, yapay zeka ile doğrulama yapan ve makineyle etkileşimde eleştirel düşüncesini ve gerçeklik algısını yitiren insanı da korumuyor. Bazı kullanıcılar bilgisayarın söylediklerini şimdiden mutlak gerçek olarak kabul ediyor ve teknik bir yardımcı olmadan sohbet edemiyor; Bogdanov'a göre bu durum psikoza kadar varabilir.

Avrupalıları teknolojik yalıtılmışlıktan koruyan bir etken var: İsteyen herkes kendi bilgisayarında veya akıllı cihazında serbestçe dağıtılan modelleri çalıştırabiliyor; iyi çözümlerin birçoğu Çin'den geliyor. ABD Başkanı bir gün Amerikan yapay zeka hizmetlerini Avrupa'ya kapatacak olsa bile, herhangi bir okul çocuğu oyun bilgisayarında yapay zeka uygulamaları oluşturabilir ve bilim insanları modelleri kendileri eğitebilir. Bogdanov'a göre işler ve gerekli beceriler değişse de gençler yeni teknolojiyi doğal olarak benimsiyor ve kendilerini tehditlerden korumayı öğreniyor.