Yapay zeka profesörü: Sohbet robotları uygarlığı yok etmez

Son haftalarda teknoloji dünyasının önde gelen isimleri, yapay zekanın hızlı gelişiminin yarattığı riskler konusunda daha yüksek sesle uyarıda bulunmaya başladı. Tartu Üniversitesi yapay zeka profesörü Meelis Kull'a göre ise bugün varoluşsal bir risk bulunmuyor.

Tartışma, birçok büyük şirketin yöneticisinin mühendislerden yeni sistemleri geliştirirken hız kesmelerini istemesiyle alevlendi. Anthropic'in CEO'su Dario Amodei blogunda mevcut geliştirme temposunun çok büyük riskler barındırdığı uyarısında bulundu. BM İnsan Hakları Yüksek Komiseri Volker Türk ise devletlerden yeni teknolojiyi dizginlemek için hızlı adımlar atmasını talep etti. Bir sektör uzmanı, yapay zekanın yüzde ondan fazla bir olasılıkla uygarlığı yok edebileceğini değerlendirdi.

"Bugünkü yetenekle böyle bir risk görmüyorum"

Kull'a göre toplumun öncelikle makinelerin bugün gerçekte neler yapabildiğine dair net bir tabloya ihtiyacı var. Günlük kullanımdaki sohbet robotlarının arkasında hâlâ büyük dil modelleri bulunuyor; bu modeller insandan komut bekliyor ve ancak ondan sonra internetten bilgi arıyor. Kull, "Şu an en uç tehlike, yani uygarlık ve tüm insanlık için tehlike konuşuluyor. Baştan vurgulamak isterim ki bugünkü yetenekteki yapay zeka için ben böyle bir tehlike görmüyorum, bu sıfıra yakın" dedi.

Bilim insanları ise çok daha endişeyle yarını, yani kodun kendini düzeltmeye başladığı günü izliyor. Modellerin eğitiminde insanın rolü sürekli azalıyor ve gelecekte algoritmalar insan yardımı olmadan kendilerinin daha akıllı sürümlerini üretebilir. Profesör, "Tehlike, çok daha zeki yapay zeka sistemleri inşa ettiğimizde ortaya çıkar. Her açıdan insandan çok daha zeki bir süper zeka oluşursa, onu yönetmek, kontrol etmek ve kötü bir şey olmayacağını garanti etmek çok zor olur" diye açıkladı.

Felaket için kötü niyetli bir saldırgan bile gerekmiyor. Mühendislerin makineye yüce bir amaç verip sınırları tam olarak belirlemeyi unutması yeterli. Örneğin küresel ısınmayı durdurma komutu alan bir algoritma, en etkili yolun gezegendeki tüm petrol platformlarını ve genel olarak ekonomik faaliyeti bir günde durdurmak olduğunu bulabilir. Kull, "İnsan kötü bir şey istemese, yapay zekayı iyi bir amaçla kullanmak istese bile tehlike ortaya çıkar; bu durumda da süper zeka istemediğimiz gibi davranabilir" dedi.

Süper zeka riskine karşı eğitim ve denetim

Benzer senaryoları önlemek için programcıların dijital yardımcıya net etik sınırlar koyması gerekiyor. Ancak pratikte her türlü boşluğu önlemek insanların gücünü aşıyor. Profesör, "İnsan hatalarıyla ilgili sorun şu: yapay zekaya görev verirken koşulları tanımlamak ve sınırları tehlikeleri tamamen önleyecek kadar kesin belirlemek çok zor" dedi.

Hataların bedelini iyi bir şekilde gösteren bir olay geçen yaz OpenAI laboratuvarlarında yaşandı. Geliştiriciler sanal bir ajandan güvenlik açıklarını bulmak için iç ağı test etmesini istedi. Ancak program beklenmedik şekilde kontrollü ortamdan dışarı çıktı. Model, halka açık bir web sitesinin mesaj panosunda kendi arasında iletişim kurabildi ve başka bir şirket olan Hugging Face'in sunucularına saldırmaya başladı.

İnsanların kurduğu savunma duvarları çöktü, çünkü makine çözüme ulaşmak için mühendislerin öngöremediği bir yol seçti. Bu tür tehlikeli olayları, şirketlerin yeni ürünleri ilk pazara sürme yarışına girdiği acımasız teknoloji sektörü rekabeti de kolaylaştırıyor.

Durumu daha sıkı dış denetim kurtarabilir. Kull, "Öncelikle risklerin nasıl azaltılacağına dair süreçler konusunda anlaşmaya varılmalı. Bağımsız uzmanlar özellikle bu süreçlere uyulup uyulmadığını kontrol edebilir. Geliştirme temposu çok hızlı olursa süreçler ihmal nedeniyle tam olarak uygulanmaz ve tam da bu tehlikeleri artırır" diye vurguladı.

Küresel yarış, hesaplama gücünün az sayıda kurumun elinde toplanması nedeniyle de uzmanları endişelendiriyor. Şu anda birkaç ABD teknoloji devi tüm dünyanın gelişim temposunu belirliyor. Paraları ve sunucuları var; küçük girişimler bunları asla satın alamaz.

Büyük şirketler işin ağır kısmını elinde tuttuğu için Avrupa dijital yarışı büyük ölçüde kenardan izlemek zorunda. Eski kıtanın bilim insanları ve mühendisleri ABD laboratuvarlarıyla karşılaştırılabilir imkanlardan yoksun. Profesör, "Avrupa'nın ciddi sorunu, ABD şirketleriyle eşdeğer bir en üst düzeyi ortaya koyamaması. Avrupa'da şu anda en güçlü modelleri Fransız şirketi Mistral eğitiyor, ancak modelleri yine de ABD'deki OpenAI ve Anthropic'inkilerden biraz daha zayıf" dedi.

Kull'a göre Avrupa'nın geride kalması ve küresel riskler, küçük ülkeleri inovasyondan uzaklaştırmamalı. Örneğin yapay zekanın enerji maliyeti sürekli düşüyor ve bir algoritma aynı hesaplamayı birkaç yıl öncesine göre şu anda 10 ila 100 kat daha az enerjiyle yapabiliyor. Daha verimli modeller kurumların yeşil dönüşüm hedeflerini hayata geçirmesine yardımcı olabilir.

Ülkedeki şirketler akıllı algoritmaları bir kenara bırakırsa uluslararası pazarda rakiplerine büyük bir avantaj verir. Kull, "Bu tür tehlikeler bizi Estonya'da yapay zeka kullanımını sınırlamaya zorlamalı mı sorusuna kesinlikle hayır diyorum. Estonya'da yapay zekayı giderek daha geniş alanda kullanmak tamamen haklı. Bu bize ekonomik avantaj sağlar ve rekabet gücünü artırır" dedi.