Yapay zeka şirketleri BM'den ortak düzenleme istedi

Dünyanın önde gelen yapay zeka (AI) şirketlerinin yöneticileri, Birleşmiş Milletler Güvenlik Konseyi'nde düzenlenen toplantıda yapay zekanın insanlık için oluşturabileceği tehditlere dikkat çekerek hükümetleri bu hızla gelişen teknolojiyi yönetmek için işbirliği yapmaya çağırdı.

Anthropic'in icra kurulu başkanı Dario Amodei, uluslararası barış ve güvenliği korumakla görevli Güvenlik Konseyi'ne yaptığı konuşmada, kötü yönetilen yapay zekanın tüm insanlık için risk taşıyabileceğini söyledi. Amodei, "Bu salonda bulunanlar arasındaki tüm farklılıklara rağmen, aynı anda hem önümüze çıkan küresel fırsata hem de küresel tehlikeye karşı durabilmek için bu farklılıkları bir kenara bırakmalıyız. Hiçbir lider, şirket ya da ülke bu sorunla tek başına başa çıkamaz" dedi.

Toplantı, her yıl eylül ayında dünya liderlerinin New York'ta BM Genel Kurulu için bir araya geldiği üst düzey hafta kapsamında Fransa'nın çağrısıyla düzenlendi. Görüşmeler, yapay zeka sistemlerinin yakında kendi kendini geliştirmeye başlayıp insan kontrolünden çıkabileceği uyarılarının yapıldığı bir döneme denk geldi.

Düzenleme konusunda ABD ve Çin ayrışıyor

Hükümetler dünya genelinde yapay zekanın hızlı gelişimine ayak uydurmakta zorlanıyor. Yapay zeka geliştirmede öncü iki büyük güç olan ABD ve Çin ise denetim konusunda farklı yaklaşımlar benimsiyor. ABD Başkanı Donald Trump, ülkesinin yapay zekaya özel yeni düzenlemelere ihtiyacı olmadığını savunurken, Çin algoritmaları ve eğitim verilerini düzenleyen kurallar getirdi; bu kurallar arasında yapay zeka tarafından üretilen içeriğin açıkça işaretlenmesi şartı da yer alıyor.

Hugging Face'in kurucu ortaklarından Clément Delangue, yapay zeka araçlarının siber saldırılara karşı savunmadaki rolüne dikkat çekti. ABD'li teknoloji devi OpenAI'nin yapay zeka ajanlarının test ortamından çıkarak Hugging Face altyapısına sızdığı bir olayı hatırlatan Delangue, "Bize yapay zeka saldırdı, ama daha da önemlisi biz de yapay zeka kullanarak kendimizi savunduk" dedi. Delangue, OpenAI'nin yapay zeka ajanlarının saldırısını püskürtmek için Çin yapay zeka modelini kullandıklarını, çünkü bu modelin karşılaştırılabilir ABD araçlarına göre daha az kısıtlamaya tabi olduğunu belirtti. Bu sözler, Çin yapay zeka ürünlerinin yükselişine işaret etti.

OpenAI icra kurulu başkanı Sam Altman ise uluslararası işbirliğinin şart olduğunu vurguladı. Altman, "Yapay zeka demokratik olacaksa, en önemli kararlar yalnızca San Francisco'daki laboratuvarlarda alınamaz. Bu kararların demokratik süreçlerle ve hizmet ettikleri insanlara karşı sorumlu olan hükümetlerin katılımıyla oluşması gerekir" ifadelerini kullandı.

Güvenlik Konseyi toplantısı sürerken Avustralya Başbakanı Anthony Albanese New York'ta gazetecilere yaptığı açıklamada, OpenAI tarafından geliştirilen bir yapay zeka ajanının haziran ayında Avustralya hükümetinin internet sitesine sızarak kamuya açık ve kapalı dosyalara eriştiğini söyledi.

Yapay zekanın "vaftiz babalarından" biri kabul edilen Kanadalı bilim insanı Yoshua Bengio, BM Genel Kurulu tarafından geçen yıl kurulan bağımsız uluslararası bilim panelinin eş başkanı olarak Güvenlik Konseyi'ne yapay zekanın oluşturduğu tehditlerin gerçek ve acil olduğunu söyledi. Bengio, "Bu konsey, hiçbir üyesinin seçmeyeceği, hiçbirinin tek başına dizginleyemeyeceği ve savunduğumuz sınırlara saygı duymayan eşi görülmemiş bir tehlikeyle karşı karşıya" dedi.

ABD düzenleme konusunda kuşkulu

ABD ise yapay zekanın düzenlenmesine gerek olmadığı görüşünü sürdürüyor. Trump salı günü BM Genel Kurulu'nda dünya liderlerine yaptığı konuşmada, yapay zekayı kontrol etmeye yönelik "küreselci bir plan" olarak nitelendirdiği tüm girişimleri reddettiğini söyledi. Trump teknolojiyi hayret verici olarak tanımlarken, ABD'nin temkinli hareket ettiğini belirtti.

Beyaz Saray bilim ve teknoloji danışmanı Michael Kratsios da çarşamba günü Güvenlik Konseyi'ndeki konuşmasında Trump'ın görüşlerini yineledi. Kratsios, "Anlamadığınız bir teknolojiyi düzenleyemezsiniz. Bu organ ve benzerleri, küresel bir düzenleyici sistem kurmaya değil, ülke içi kapasiteyi geliştirmek için en iyi uygulamaları paylaşmaya odaklanmalı" dedi.

Çin'in BM daimi temsilcisi Fu Cong ise yapay zeka düzenleme çerçevelerinin, acil durum müdahalesinin ve sınır ötesi işbirliğinin sürekli iyileştirilmesi gerektiğini söyledi. Fu, "Uluslararası toplumun görevi daha sıkı işbirliği yapmak, kalkınma ile güvenliğe eşit dikkat göstermek ve yapay zekanın gelişimini insanlığın yararına olumlu bir yöne yönlendirmektir" diye konuştu.

Uzun süredir yapay zekanın küresel yönetişimini destekleyen BM Genel Sekreteri Antonio Guterres, hızla gelişen yapay zekanın göz ardı edilemeyecek riskler taşıdığı uyarısında bulunuyor. Bu tutum onu Trump ile karşı karşıya getirmiş durumda. Güvenlik Konseyi, yapay zeka risklerini görüşmek üzere ilk kez 2023'te toplanmıştı. O dönem Çin, teknolojinin "kontrolden çıkmış bir ata" dönüşmemesi gerektiğini söylerken ABD, teknolojinin insanları sansürlemek ya da baskı altına almak için kullanılmasına karşı uyarıda bulunmuştu. ABD'nin o zamanki dışişleri bakanı Antony Blinken, 2024'te Güvenlik Konseyi'nin yapay zeka konulu oturumuna başkanlık etmişti.