Estonyalı teknoloji milyarderi Tallinn yapay zeka için uyarıyor

Skype'ın kurucularından Estonyalı teknoloji milyarderi Jaan Tallinn, hızlı yapay zeka gelişiminin getirdiği riskler konusunda uzun süredir uyarılarda bulunuyor. Wall Street Journal'ın haberine göre 54 yaşındaki Tallinn, bir yandan da yapay zeka şirketlerine yatırım yaparak güvenlik konusuna daha fazla önem verilmesini teşvik ediyor.

Tallinn geçen haftayı New York'ta Birleşmiş Milletler Genel Kurulu'nda geçirdi. Bu, girişimcilere, yatırımcılara, politika yapıcılara ve dinleyecek herkese yapay zekanın insanlığı sona erdirebileceğini anlatmak için bir yıl boyunca sürdürdüğü uzun mesafeli seyahatlerin son durağıydı.

Yapay zeka şirketi Anthropic'in en erken yatırımcılarından biri olan Tallinn, bu şirketin beklenen ilk halka arzından (IPO) önümüzdeki aylarda milyarlar kazanmayı bekliyor. Yapay zekaya ilişkin endişeleri, yine de bu yatırımı yapmaya itti.

Yapay zeka güvenliği tartışması

Tallinn on yılı aşkın süredir yapay zeka güvenliğini savunuyor. Bu konu, son haftalarda Anthropic araştırmacısı Jacob Coxon'un istifa ederek yapay zekanın kontrolden çıkabileceği uyarısında bulunmasıyla kamuoyunun gündemine taşındı. Claude'un arkasındaki şirket olan ve OpenAI'ın rakibi Anthropic, güvenlik öncelikli bir yaklaşım benimsediğini vurguluyor.

Tallinn yaptığı açıklamada, "Ne yazık ki bu tehdidi yeterince ciddiye almadığımıza ve insanlığı sona erdirebilecek bir teknolojiyi inşa etmek için yarıştığımıza inanıyorum" dedi. "Daha fazla insan riski anlama hakkını talep eder ve bu teknolojinin sorumsuzca geliştirilmesinin risklerini dile getirirse, o zaman bizim ve çocuklarımızın hayatta kalma şansı daha yüksek olur."

Tallinn'in pek çok endişesi var: Yapay zeka laboratuvarları arasındaki yarış, ABD ile Çin arasındaki rekabet, yapay zekanın kendini geliştirme yeteneğinin artması. Yapay zeka veri merkezlerinin bir zamanlar tarım için kullanılan arazileri satın alarak kitlesel açlığa yol açması veya yapay zeka mühendislerinin dünyanın atmosferini insanlar için yaşanmaz hale getirmesi gibi kıyamet senaryoları hayal ediyor.

Yatırım stratejisi

Arkadaşlarına ve meslektaşlarına göre Tallinn, eğer Anthropic'e yatırım yapmasaydı yerine güvenlik konusunda daha az endişe duyan bir yatırımcının geçebileceği görüşünde. Yapay zeka şirketlerine yatırım yaparak ve elde ettiği getiriyi yapay zeka güvenliğini destekleyen kar amacı gütmeyen kuruluşlara yatırarak en olumlu etkiyi yaratabileceğine inanıyor. Yapay zeka güvenliği topluluğu, güvenli yapay zeka gelişimini teşvik etmenin en iyi yolunun teknolojiyi geliştiren şirketlerde çalışmak veya bu şirketlere yatırım yapmak mı, yoksa yapay zeka yarışını körüklemeden bağımsız güvenlik araştırmalarını desteklemek mi olduğu konusunda bölünmüş durumda.

Tallinn'in yatırım firması Metaplanet'in yönetici ortağı Rauno Miljand, "Bu riskin farkında olan tüm iyi, yetenekli mühendislerin temelde bir karar vermesi gerekiyor" dedi. "Sığınağa koşup sevdiklerinizle mümkün olduğunca çok zaman geçirmeye çalışmak ya da süreci etkilemeye ve insanlığın hayatta kalma olasılıklarını yönlendirmeye çalışmak."