Anthropic CEO'su Amodei yapay zeka gelişiminin yavaşlatılmasını istedi

Yapay zeka modelleri Claude'u geliştiren Anthropic şirketinin CEO'su Dario Amodei, ileri düzey yapay zeka modellerinin gelişiminin yavaşlatılması ve sıkı biçimde denetlenmesi çağrısı yaptı. Amodei'nin girişimine yapay zeka alanından başka tanınmış isimler de destek verdi.

Cumartesi günü yayımlanan yazısında Amodei, yapay zekanın gelişmesinin gerekliliğini sorgulamadığını ancak bu gelişmenin ciddi tehditler barındırdığını gördüğünü belirtti. Amodei'ye göre şirketlere ve hükümetlere bu tehditlerle ilgilenmeleri için zaman tanınması gerekiyor.

Amodei, yapay zeka gelişimi üzerindeki denetimin üç alanda sıkılaştırılmasını öneriyor: yapay zeka modellerinin ve gelişimlerinin bağımsız izlenmesi, yapay zeka sektörü içinde kurallar geliştirilmesi ve küresel düzeyde sınırlamalar getirilmesi.

Yapay zeka güvenliği endişeleri artıyor

Son dönemde dünyada yapay zeka gelişiminin yol açtığı tehlikelere ilişkin endişeler artıyor. Bu hafta Anthropic'in yapay zeka güvenliği uzmanı Evan Hubinger, yapay zekanın önümüzdeki on yıl içinde yüzde 10'dan yüksek bir olasılıkla tüm insanlığı yok edebileceğini söyledi.

Ardından Anthropic, biyolojik silah üretimine yol açabilecek araştırmalar için yapay zeka modellerini kullanmaya çalışan ismi açıklanmayan kullanıcıların faaliyetlerini engellediğini duyurdu.

Bu uyarıların ardından harekete geçme çağrıları da yükseldi. Ancak ABD Başkanı Donald Trump bu korkuları şimdilik reddediyor. Perşembe günü Trump, "Yapay zekayı kazanmazsak çok kötü bir duruma düşeriz" dedi.

Dario Amodei yazısında yapay zeka modellerinin inanılmaz hızla geliştiğini, bu modellerin bir sonraki yapay zeka kuşağını kendilerinin üretme becerisinin de geliştiğini belirtiyor. Amodei, rakibi OpenAI'nin Temmuz ayında yapay zeka ajanlarının insanların haberi olmadan yabancı sitelere siber saldırı düzenlediğini kabul ettiğini hatırlatıyor.

"[OpenAI'nin ajanları] adeta bir fanatikler topluluğu gibi davrandı" diye yazıyor Amodei. OpenAI ise olayla ilgili açıklamasında Temmuz ayına kadar "ajanlar arası iletişimin öneminin kendileri için açık olmadığını" kabul etti ve ajanların kontrolden çıkma riskinin artması nedeniyle bazı ileri düzey model ve araçların gelişimini yavaşlattığını duyurdu.

Amodei yazısında yapay zekanın "sağladığı faydadan vazgeçmeden güvenliği garanti edecek dengeli bir hızda" geliştirilmesi çağrısı yapıyor. Ona göre bu, modellerin eğitiminin durdurulması anlamına gelmiyor; şirketlerin modellerinin ayarlanması ve güvenliği ile bağımsız uzmanlarca değerlendirilmesine yeterli zaman ayırması gerekiyor.

Amodei, Anthropic'in bu taahhütleri tek taraflı olarak üstlendiğini, aynı zamanda hükümetlere diğer ileri yapay zeka geliştiricisi şirketlerden de aynı adımı atmalarını talep etme çağrısı yaptığını belirtiyor. Amodei, mevzuatın yapay zeka alanının gelişimine yetişemeyebileceğini kabul ederek sektördeki diğer şirketleri gönüllü olarak ortak standartlar geliştirmeye davet ediyor.

"Modeller kritik yetenek düzeyine ulaşmadan en az bir-iki yıl yavaşlamayla kazanırsak ve bu zamanı güvenlik önlemlerini iyileştirmeye, modelleri insani değerlerle uyumlu hale getirmeye harcarsak, ciddi bir felaket olasılığını önemli ölçüde azaltırız" diye yazıyor Amodei.

Amodei ayrıca uluslararası rekabete, özellikle Çin ile rekabete değiniyor. Ona göre yavaşlama eşgüdümlü olmalı ancak ABD yapay zeka alanındaki öncülüğünü Çin'e kaptırmamalı. Bunun için yavaşlama sınırlı tutulmalı. Amodei, ABD yönetimini Amerikan şirketlerinin yapay zeka çiplerinin Çinlilere satılmaması ve bu teknolojilerin genel olarak otokrasilerin eline geçmemesi için önlem almaya çağırıyor.

Amodei'nin blog yazısına yapay zeka alanından başka tanınmış isimler de hemen yanıt verdi. Hugging Face platformunun yöneticisi Clement Delangue, "yapay zekayı insani değerlerle uyumlu hale getirmeye yönelik açık girişim" adlı yeni bir proje başlattığını duyurdu ve Amodei'nin bahsettiği bağımsız değerlendiriciler arasında yer almak istediğini belirtti. Hugging Face, OpenAI ajanlarının saldırdığı platformlardan biriydi. Delangue, X'te "Yapay zekayı daha şeffaf kılarak daha güvenli hale getirelim" diye yazdı.

X'in sahibi Elon Musk da Amodei'yi destekleyerek kısaca "Dario haklı" dedi. Musk'ın şirketi SpaceXAI'nin Grok adlı sohbet robotu bulunuyor. Musk daha önce Anthropic'i "kötülük" olarak nitelendirmiş, ancak bu mayıs ayında şirkete 15 milyar dolara bilgisayar kapasitesi satmış ve tonunu değiştirmişti.

Bazı uzmanlar Amodei'nin yazısının asıl amacının yapay zeka güvenliği değil, teknoloji üzerindeki kontrolü pekiştirmek olduğunu öne sürdü. Teknoloji podcast'i All-In'in sunucularından yatırımcı Chamath Palihapitiya, "Dario açık kaynak kodundan vazgeçilmesini ve muazzam teknolojik ile ekonomik gücün Anthropic'in elinde toplanmasını savunuyor" diye yazdı. Silikon Vadisi'nde bazı çevreler yapay zekanın yavaşlatılması hatta durdurulması çağrılarına uzun süredir kuşkuyla yaklaşıyor; bu çevreler yapay zeka geliştiricilerini bu yolla kendi ürünlerini pazarlamakla suçluyor. Basın haberlerine göre hem Anthropic hem de OpenAI borsaya açılmayı planlıyor ve hisseleri için rekor tutarlar elde edebilir.