WSJ: Jaan Tallinn yapay zeka risklerine karşı uyarıyor

ABD gazetesi The Wall Street Journal, Estonlu milyarder Jaan Tallinn'in yıllardır yapay zekanın hızlı gelişimiyle ilgili tehlikelere karşı uyarıda bulunduğunu yazdı. Tallinn aynı zamanda yapay zeka şirketlerine yatırım yaparak geliştiricilerin risklere daha fazla dikkat etmesini sağlamayı umuyor.

Gazeteye göre Tallinn geçen haftayı New York'ta Birleşmiş Milletler Genel Kurulu'nda geçirdi ve burada yapay zekanın hızlı gelişimiyle bağlantılı riskleri anlatmaya çalıştı.

Tallinn, yapay zeka şirketi Anthropic'in önceki yatırımcılarından biri olarak, şirketin halka arz edilmesi durumunda önümüzdeki aylarda milyarlarca dolar kazanabilir. Yapay zekaya ilişkin endişeleri onu bu şirkete yatırım yapmaya itti.

Tallinn on yıldan fazla süredir yapay zeka güvenliğinin önemini vurguluyor. Bu konu yakın zamanda Anthropic araştırmacısı Jacob Coxon'ın istifa ederek yapay zekanın kontrolden çıkabileceği uyarısında bulunmasıyla kamuoyunun daha fazla dikkatini çekti.

Tallinn yaptığı açıklamada, "Ne yazık ki bu tehdidi yeterince ciddiye almadığımıza ve insanlığı yok edebilecek bir teknoloji yaratma yarışına katıldığımıza inanıyorum" dedi.

"Daha fazla insan riskleri anlama hakkını talep eder ve bu teknolojinin umursamazca geliştirilmesinin tehlikeleri konusunda söz alırsa, bizim ve çocuklarımızın hayatta kalma şansı daha yüksek olur" diye ekledi.

Tallinn'i yapay zeka laboratuvarları arasındaki yarış, ABD ile Çin arasındaki rekabet ve yapay zekanın kendini geliştirme kapasitesinin artması endişelendiriyor.

Ayrıca yapay zeka veri merkezlerinin tarım arazilerini işgal ederek kitlesel kıtlığa yol açması veya mühendislerin Dünya'nın atmosferini insanlar için yaşanmaz hale getirmesi gibi kıyamet senaryolarına karşı da uyarıyor.

DeepMind ve Anthropic yatırımları

Arkadaşlarına ve meslektaşlarına göre Tallinn, Anthropic'e yatırım yapmasaydı yerini güvenliği önemsemeyen bir yatırımcının alacağını düşünüyor. Tallinn'in yapay zeka şirketlerine yatırım yaparak ve elde ettiği geliri yapay zeka güvenliğini destekleyen kar amacı gütmeyen kuruluşlara yönlendirerek iyilik yapmayı umduğu belirtiliyor.

Yapay zeka güvenliği topluluğu, güvenli gelişimi teşvik etmek için teknoloji geliştiren şirketlerde çalışmanın mı yoksa bağımsız güvenlik araştırmalarını desteklemenin mi daha iyi olduğu konusunda bölünmüş durumda.

"Bu tehdidi algılayan tüm iyi ve yetenekli mühendisler temelde bir seçim yapmak zorunda" diyen Tallinn'in yatırım şirketi Metaplanet'in ortak yöneticisi Rauno Miljand, "Ya sığınağa koşup sevdikleriyle mümkün olduğunca fazla zaman geçirmeye çalışacak ya da süreci etkilemeye ve insanlığın hayatta kalma olasılığını artırmaya çalışacak" ifadelerini kullandı.

Şu anda 54 yaşında olan Tallinn bilgisayarı ilk kez 14 yaşında kullandı. Teorik fizik alanında derece aldıktan sonra dosya paylaşım programı Kazaa'nın oluşturulmasına yardımcı oldu. Bunu 2000'lerin başında Microsoft'un daha sonra 8,5 milyar dolara satın aldığı Skype izledi.

2008'de yapay zeka araştırmacısı Eliezer Yudkowsky'nin çalışmalarıyla tanıştı. Yudkowsky, yapay zeka tehlikelerine karşı uyarıda bulunan hareketin yani sözde rasyonalistler topluluğunun lideri konumunda.

Estonya'nın en zengin kişisi olarak görülen ve serveti 12 milyar dolar olarak tahmin edilen Tallinn, yayımladığı bağış listesine göre yapay zeka güvenliği girişimlerini yaklaşık 170 milyon dolarla destekledi.

2011'de Tallinn, yapay zeka tehlikelerini tartışmak için hayırseverliği değerlendiren kuruluş GiveWell'in ortak kurucusu Holden Karnofsky ve kuruluşta çalışan Dario Amodei ile iletişime geçti. Aynı yıl yapılan telefon görüşmesinde Tallinn, bugün tanındığı karanlık tahminini yaptı.

Tallinn, DeepMind'ı erken aşamada destekledi ve Google şirketi 2014'te satın almadan önce kurulunda yer aldı. Buna rağmen DeepMind'ın başarısı Tallinn'e ağırlık kazandırdı. Zamanla Metaplanet'in yatırımları genişledi ve şimdi Elon Musk'ın SpaceXAI'larını, Boring Company'yi ve akıllı yüzük üreten Oura'yı kapsıyor.

2021'de Amodei ve birkaç kişinin güvenlik kaygılarıyla OpenAI'dan ayrılıp Anthropic'i kurmasının hemen ardından Tallinn 124 milyon dolarlık yatırım turunu yönetmeyi kabul etti. Veri şirketi PitchBook'a göre genç girişim o zaman 461 milyon dolar değerindeydi.

Metaplanet'in ortak yöneticisi Miljand, Anthropic'in beklenen halka arzından elde edilecek ve iki trilyon doları aşabilecek gelirin insanlığın yararına nasıl kullanılacağını düşünmeye çalıştığını söyledi. Miljand, Anthropic'in başarısız olması durumunda yine de kutlama nedeni olacağını belirterek, "Eğer Anthropic başarısız olur ve değeri sıfıra düşerse bu aslında iyi bir şey olur. Bu, muhtemelen yapay süper zekaya ulaşmadığımız ve insanlığın kendine sadece ek yıllar satın aldığı anlamına gelir" dedi.