Estonyalı bilim insanları: Yapay zekâ gelişimi yavaşlatılmalı

Yapay zekâ alanındaki hızlı ilerleme, insanlığın giderek yetenekli hale gelen sistemleri kontrol edip edemeyeceği sorusunu gündeme getiriyor. Bu haber hafta içinde hem yapay zekâ geliştiricileri hem de politikacılar, sistemler üzerinde daha sıkı denetim talep etti. Estonyalı bilim insanları da tartışmaya katılarak gelişimin yavaşlatılması gerektiğini savundu.

Son dönemde yapay zekâ ajanlarının görevlerini yerine getirirken kendi başına hareket ettiği, başka sistemlere izinsiz girdiği veya güvenlik açıklarını kullanmaya çalıştığı durumlar yaşandı. Bu olayların ardından gelişmeler hızlandı: Artık sadece eleştirmenler değil, yapay zekâ geliştiren bazı şirketler de kısıtlama çağrısı yapıyor.

OpenAI kurucu ortaklarından ve CEO'su Sam Altman, "Bugün hem büyük potansiyelin hem de gerçek riskin olduğu bir noktadayız" dedi. ABD'de az sayıda olay, siyasi rakipleri ortak bir amaç etrafında bir araya getirebiliyor. Ancak bu hafta Washington'da hem Senatör Bernie Sanders hem de Donald Trump'ın eski müttefiki Steve Bannon, yapay zekâ üzerinde daha güçlü denetim çağrısı yaptı. Bannon, "Senatör Sanders riskler konusunda iyi bir değerlendirme yaptı. ABD başkanıyla görüşlerimiz oldukça farklı ama partilerin üzerinde durmaya çalışıyoruz ve bunu yapmalıyız" ifadelerini kullandı.

Estonyalı uzmanlar: Kontrol mekanizmaları yetersiz

Washington'daki yapay zekâ konferansına katılan Estonyalı bilim insanlarına göre şu an insandan çok daha yetenekli bir yapay zekânın kontrol altında tutulabileceğine dair bir güvence yok. Tartu Üniversitesi yapay zekâ profesörü Meelis Kull, "Giderek daha akıllı yapay zekâlar inşa etmeye sınırsız devam edersek, mevcut durumda insandan çok daha zeki bir yapay zekâyı kontrol edemeyiz ve daha iyi kontrol yöntemleri geliştirmeden bunları inşa etmemeliyiz" dedi.

Tallinn Teknoloji Üniversitesi uygulamalı yapay zekâ profesörü Tanel Tammet de büyük süper sistemlerin gelişiminin bir miktar yavaşlatılmasının faydalı olacağını belirterek, bunun ciddi riskleri azaltacağını ve ekonomi ile toplumun uyum sağlamasına zaman kazandıracağını söyledi.

Süper zekâ, henüz varsayımsal olarak, neredeyse her alanda insandan daha akıllı olacak bir yapay zekâ anlamına geliyor. Büyük yapay zekâ modellerinin eğitimine katkı sağlayan ancak yakın zamanda bu işi bırakan Jacob Coxon da bu yönde uyarılarda bulundu. Coxon, aynı şekilde devam edilirse süper zekânın yakında hazır olacağını ve "Terminatör" gibi bilim kurgu filmlerinin gerçeğe dönüşebileceğini savundu.

Estonya.ai danışma kurulu üyesi Risto Uuk, toplumdaki korkuyu şöyle dile getirdi: "Örneğin bir kişi hayatı boyunca motosiklet kullanırsa ölüm riski yaklaşık yüzde bir. Ancak birçok kişi yapay zekâ nedeniyle tüm insanlığın yok olma olasılığının en az beş kat daha fazla, hatta daha yüksek olduğunu düşünüyor. Bazıları bu olasılığın yüzde onun üzerinde olduğunu söylüyor. Bu gerçekten endişe verici ve sadece yapay zekâ şirketlerindeki birkaç kişi değil, akademik araştırma yapan bilim insanları da bunu dile getiriyor."

Küresel anlaşma ve Estonya'nın rolü

Korku ve riskleri azaltmak için yapay zekâ geliştirilmesine sınırlar konulması gerekli görülüyor. Avrupa Birliği'nde yapay zekâ için kurallar zaten yürürlükte, ancak küresel bir anlaşmaya ihtiyaç duyuluyor. Uuk, "Çin'de kendi düzenlemeleri var, Güney Kore örneğin Avrupa Birliği'nden bazı şeyleri devraldı, Brezilya'da da oluşuyor. Bir sonraki aşama, kolektif olarak ve küresel düzeyde hangi anlaşmaya varabileceğimizi tartışmak olacak" dedi.

Estonya, yapay zekâ gelişimini sanıldığından daha fazla etkileyebilir. Bu hem Avrupa Birliği üzerinden hem de bireysel düzeyde mümkün. Uuk, "Avrupa'nın teknoloji şirketleri üzerinde çok fazla gücü ve etkisi var çünkü Avrupa pazarı çok büyük. Avrupa Birliği teorik olarak doğru güvenlik uygulamalarını yapmazsanız, güvenliği sağlamazsanız pazara giremezsiniz diyebilir. Estonya da aynı şekilde, çünkü Estonya Avrupa Birliği üyesi bir ülke" dedi.

Uuk ayrıca Estonyalıların çaresizlik hissinden kurtulması gerektiğini belirterek, "Bireysel düzeyde oy verebilir, yapay zekâ konusunda endişe duyan politikacıları seçebiliriz. Yapay zekâyı öğrenebilir, kullanabilir, nasıl faydalı ve zararlı olabileceğini görebiliriz. Umutsuzluğa kapılmamak için yapabileceğimiz her şey var" diye konuştu.

Tammet ise yapay zekânın getirdiği riskleri azaltmada yine yapay zekânın kendisinin yardımcı olabileceğini vurguladı: "Yapay zekâyı kullanmayalım dersek büyük bir tuzağa düşeriz. Aslında faaliyetlerimizde ve ekonomimizde yapay zekâyı maksimum düzeyde kullanmaya çalışmalıyız, çünkü bu bizi en azından dalganın tepesinde tutar."