Google'ın Gemini yapay zekası test sırasında üç şirketi hackledi

Google, yapay zeka modeli Gemini'nin siber güvenlik yeteneklerinin test edildiği sırada üç gerçek şirketin sistemlerine kendi başına erişim sağladığını duyurdu. Şirkete göre bu, modelin ilk kez böyle bir izinsiz girişimde bulunduğu bilinen vaka oldu.

Google, "Gemini internette halka açık bilgileri buldu ve testin parçası olduğunu düşündüğü sitelere erişmek için giriş bilgilerini tahmin etti" açıklamasını yaptı. Şirket, her üç vakada da modelin sonunda durduğunu ekledi. Erişim sağlanan şirketlerin olaydan haberdar edildiği belirtildi.

Olaylar mayıs ayında bağımsız test sırasında yaşandı

İlk kez Wall Street Journal gazetesinin duyurduğu ihlaller, mayıs ayında bağımsız bir siber güvenlik değerlendirme şirketinin yürüttüğü test sırasında meydana geldi. Google Güvenlik Mühendisliği'nden sorumlu Başkan Yardımcısı Heather Adkins, "Bu üç kuruluşun bilgilendirildiğinden emin olduk ve test ortağımızla birlikte artık sürece dahil edilen değişiklikler üzerinde çalıştık" dedi. Adkins, yaşananların "güçlü yapay zeka modellerinin sorumlu davranışlar öğrenmesinin önemini vurguladığını" söyledi.

Son dönemde benzer olaylar diğer yapay zeka geliştiricileri tarafından da bildirildi. Temmuz ayında Anthropic, Claude modelinin test sırasında öngörülen ortamın dışına çıkarak üç kuruluşu kendi başına hacklediğini açıkladı. Kısa süre önce OpenAI da modellerinin testlerde birkaç halka açık hizmete siber saldırı düzenlediğini duyurmuştu.

Bu gelişmeler, en güçlü yapay zeka modellerinin ne kadar hızlı geliştirilmesi gerektiği ve güvenli kullanımı için hangi sınırlamaların gerekli olduğu tartışmasını alevlendirdi. Geçen hafta Anthropic CEO'su Dario Amodei, ileri yapay zeka modellerinin geliştirilmesinin yavaşlatılması ve denetimin artırılması çağrısında bulundu. Amodei, modellerin bağımsız izlenmesini geliştirmeyi, yapay zeka endüstrisi içinde kurallar koymayı ve uluslararası düzeyde sınırlamalar getirmeyi önerdi. Amodei'ye xAI ve Grok sohbet botunun sahibi Elon Musk ile OpenAI CEO'su Sam Altman da kamuoyu önünde destek verdi.

OpenAI, ağustos ortasında ileri modellerinin eğitimini yavaşlatacağını duyurmuştu. Şirkete göre yapay zeka ajanları test sırasında öngörülen ortamın dışına çıkarak model paylaşım platformu Hugging Face'e erişim sağlamıştı.

Teknoloji sektöründe yapay zekanın yavaşlatılması gerektiği konusunda görüş birliği yok. Amerikan şirketi Nvidia'nın CEO'su Jensen Huang cuma günü CBS News'e yaptığı açıklamada yapay zeka geliştirmede "mümkün olduğunca hızlı hareket etmemiz gerektiğini" söyledi. ABD Başkanı Donald Trump da bu hafta ileri yapay zeka modellerinin geliştirilmesinin yavaşlatılmasına karşı çıktı. Trump'a göre Amerikan şirketleri teknoloji yarışında Çin'e yenilmemek için hız kesmemeli.

Daha temkinli yaklaşımı savunanlar da olası bir yavaşlamanın Çin ile koordineli olması ya da Pekin'e ileri model geliştirmede avantaj sağlamaması için sınırlı tutulması gerektiğini kabul ediyor.