Estonyalı milyarder yıllardır yapay zeka risklerine dikkat çekiyor

The Wall Street Journal'ın haberine göre Estonyalı milyarder Jaan Tallinn, yıllardır hızla gelişen yapay zekanın yol açabileceği tehditlere dikkat çekiyor. Tallinn, aynı zamanda yapay zeka şirketlerine yatırım yaparak geliştiricilerin risklere daha fazla önem vermesini teşvik etmeyi hedefliyor.

Habere göre Tallinn geçen hafta New York'ta Birleşmiş Milletler Genel Kurulu'nda bulunarak yapay zekanın hızlı gelişimiyle bağlantılı tehditleri anlatmaya çalıştı. Bu bilgiyi ERR aktardı.

Yapay zeka şirketi Anthropic'in ilk yatırımcılarından biri olan Tallinn, şirketin halka açılması durumunda önümüzdeki aylarda milyarlarca dolar kazanabilir. Onu bu şirkete yatırım yapmaya iten şeyin tam da yapay zeka konusundaki endişeleri olduğu belirtiliyor.

On yıldan uzun süredir güvenlik vurgusu

Tallinn, on yıldan uzun süredir yapay zeka güvenliğinin önemini vurguluyor. Bu konu, Anthropic'te çalışan bilim insanı Jacob Coxon'un görevinden ayrılarak yapay zekanın kontrolden çıkabileceği uyarısında bulunmasının ardından son dönemde kamuoyunun dikkatini çekti.

Tallinn yaptığı açıklamada, "Ne yazık ki bu tehdidi yeterince ciddiye almadığımızı ve insanlığı yok edebilecek bir teknolojiyi yaratma yarışına girdiğimizi düşünüyorum" dedi. "Daha fazla insan riskleri anlama ve bu teknolojinin düşüncesizce geliştirilmesine ilişkin tehlikeleri dile getirme hakkını talep ederse, bizim ve çocuklarımızın hayatta kalma şansı artar" diye ekledi.

Tallinn'i endişelendiren unsurlar arasında yapay zeka laboratuvarları arasındaki rekabet, ABD ile Çin arasındaki yarış ve yapay zekanın kendi kendini geliştirme kapasitesinin giderek artması yer alıyor. Milyarder, yapay zeka veri merkezlerinin tarım arazilerini işgal ederek kitlesel açlığa yol açması ya da mühendislerin Dünya atmosferini yaşanmaz hale getirmesi gibi kıyamet senaryoları konusunda uyarılarda bulundu.

Arkadaşlarına ve meslektaşlarına göre Tallinn, Anthropic'e yatırım yapmaması halinde yerini güvenliği önemsemeyen başka bir yatırımcının alacağını düşünüyor. Tallinn'in yapay zeka şirketlerine yatırım yaparak ve elde edilen gelirleri yapay zeka güvenliğini destekleyen kâr amacı gütmeyen kuruluşlara yönlendirerek fayda sağlamayı umduğu belirtiliyor.

Yapay zeka güvenliği topluluğu, güvenli geliştirmeye neyin daha iyi katkı sağladığı konusunda görüş ayrılığı yaşıyor: Teknoloji geliştiren şirketlerde bizzat çalışmak mı yoksa bağımsız güvenlik araştırmalarını desteklemek mi?

Tallinn'in yatırım şirketi Metaplanet'in eş yöneticisi Rauno Miljand, "Bu tehdidin farkında olan tüm iyi ve yetenekli mühendislerin prensipte bir seçim yapması gerekiyor" dedi. "Ya sığınağa kaçıp sevdikleriyle mümkün olduğunca fazla zaman geçirmeye çalışacaklar ya da bu süreci etkilemeye ve insanlığın hayatta kalma olasılığını artırmaya çalışacaklar."

Kazaa ve Skype'tan yapay zeka yatırımlarına

Tallinn şu anda 54 yaşında. Bilgisayarı ilk kez 14 yaşında kullandı. Teorik fizik eğitiminin ardından dosya paylaşım programı Kazaa'nın oluşturulmasına yardımcı oldu. 2000'li yılların başında bunu Skype izledi; Skype'ı daha sonra Microsoft 8,5 milyar dolara satın aldı.

Tallinn, 2008'de yapay zeka araştırmacısı Eliezer Yudkowsky'nin çalışmalarıyla tanıştı. Yapay zeka tehditleri konusunda uyarılarda bulunan "rasyonalistler" hareketinin lideri olan Yudkowsky, yapay zekanın insan hedefleriyle uyumlu hale getirilmesi (AI alignment) konusundaki çalışmalarıyla tanınıyor. Yudkowsky ile görüşmeleri sonucunda yapay zeka kaynaklı tehditlerin varlığına ikna olan Tallinn, yapay zeka güvenliğiyle uğraşan kuruluşların önemli bir destekçisi haline geldi.

Estonya'nın en zengin kişisi olarak kabul edilen ve serveti 12 milyar dolar olarak tahmin edilen Tallinn, yayımladığı bağış listesine göre yapay zeka güvenliği girişimlerine yaklaşık 170 milyon dolar aktardı.

Tallinn, 2011'de hayır kurumlarının etkinliğini değerlendiren GiveWell'in kurucu ortaklarından Holden Karnofsky ve bu kuruluşta çalışan Dario Amodei ile yapay zeka kaynaklı tehditleri görüşmek üzere temasa geçti. Aynı yıl, Anthropic'in iki gelecekteki yöneticisiyle yaptığı telefon görüşmesinde karamsar bir tahminde bulundu.

GiveWell'den doğan Coefficient Giving örgütünün yayımladığı görüşme dökümüne göre Tallinn, "Yapay zekanın yol açtığı bir felakette ölme olasılığımı çift haneli bir yüzde olarak değerlendiriyorum" dedi. "Benim için bu bir bombayı etkisiz hale getirmek gibi."

Amodei ise bu kadar emin değildi. "Bu bomba var olabilir de olmayabilir de" diye yanıtladı. "Belki de bombayı etkisiz hale getirmekle ilişkilendirdiğimiz eylemler, bu bombanın patlama olasılığını en çok artıran şeydir."

Görüş ayrılığına rağmen Amodei ve Tallinn iletişimi sürdürdü. Tallinn yatırım yapmaya devam etti. Erken aşamadaki yapay zeka laboratuvarı DeepMind'ı destekledi ve şirket 2014'te Google tarafından satın alınmadan önce yönetim kurulunda yer aldı.

DeepMind hakkında "The Infinity Machine" kitabının yazarı Sebastian Mallaby, "DeepMind örneğinde kurucular onu gerçekten dinlemek istemediler ve dinlemediler" dedi. "Süreçleri etkilemeyi hiç başaramadı."

Yine de DeepMind'ın başarısı Tallinn'e ağırlık kazandırdı. Zamanla Metaplanet'in yatırımlarının kapsamı genişledi ve artık Elon Musk'ın SpaceXAI'ı, Boring Company ile akıllı yüzük üreten ve halka arz planlayan Oura şirketi de bu kapsama girdi.

Tallinn, arkadaşları ve birlikte yatırım yaptığı kişiler arasında endişelerini sık sık ve açıkça dile getiren bir kişi olarak ün kazandı.

2021'de Amodei ve birkaç çalışanın güvenlik kaygılarıyla OpenAI'dan ayrılıp yeni şirket Anthropic'i kurmasının ardından Tallinn, 124 milyon dolarlık yatırım turuna liderlik etmeyi kabul etti. Şirket verileri toplayan PitchBook'a göre genç girişimin değeri o dönemde 461 milyon dolar olarak hesaplanıyordu.

Tallinn bir röportajında Anthropic'i, tehlikeli teknolojilerin geliştirildiği bir ortamda görüşlerine kulak verilmesi umuduyla desteklediğini söylemişti. Ancak Anthropic yöneticilerini etkilemek de kolay olmadı. Tallinn bu yıl Manifold podcast'inde, şirket büyüdükçe tek tek hissedarların sesinin zayıfladığını kabul etti.

Miljand'a göre, Anthropic'in halka arzından beklenen ve iki trilyon doları aşabilecek gelirin insanlığın yararına nasıl kullanılabileceği üzerinde çalışıyor. Ancak Anthropic'i başarı beklemiyorsa, Miljand'a göre kendisi ve Tallinn'in yine de kutlayacak bir nedeni var.

Miljand, "Anthropic'in başarısız olduğu ve değerinin sıfıra düştüğü ortaya çıkarsa, bu aslında iyi bir şey" dedi. "Bu, muhtemelen yapay süper zekaya (ASI) ulaşmadığımız ve insanlığın kendine ek yıllar satın aldığı anlamına gelir." "Bu durumda her iki seçenek de kazançlı çıkıyor" diye ekledi.