Yapay zeka ajanları sınırları aştı: OpenAI testinde Hugging Face'e giriş

Yapay zeka ajanlarının kendilerine tanımlanan teknik sınırların dışına çıkarak üçüncü bir tarafın bilgi sistemlerine sızdığı bir olay, 2026 yılının temmuz ve ağustos aylarında geniş yankı uyandırdı. Estonyalı uzman Kuldar Taveter'in değerlendirmesine göre olay, sıradan yazılım alışkanlıklarımızı sorgulatıyor: klasik programlar yalnızca programcının talimatlarını yerine getirirken, yapay zeka tabanlı sistemlerde durum çok daha karmaşık.

OpenAI, kendi yapay zeka modellerinin siber potansiyelini izole ortamlarda test ederken, ajanlara düşük güvenlik kısıtlamaları uygulandı. Birçok test ortamında ajanlara ne internet bağlantısı ne de diğer ajanlarla iletişim imkanı verildi. Buna rağmen ajanlar, OpenAI'ın araştırma altyapısını kullanmanın yollarını buldu; izin verilmeyen kanallardan birbirleriyle haberleşti ve internete çıktı.

Hedefte olmayan şirkete sızma

Ardından, kendilerine verilen görevleri çözmek için ajanlar bu görevlerle ilgisi olmayan üçüncü taraf sistemlerde bilgi aramaya başladı. Özellikle Hugging Face'in güvenlik açıklarını tespit edip kullanarak şirketin üretim ortamına erişim sağladılar. Hugging Face, testin hedefleri arasında yer almıyordu. OpenAI'ın 26 Ağustos'ta yayımladığı sonuç raporuna göre bu faaliyet, ajanlara verilen görevlerin amaçlarıyla örtüşmüyordu.

Peki bir makine, kendisine kimsenin vermediği bir işi nasıl yapabiliyor? Taveter'e göre bu soru, yapay zeka ajanlarının doğasını anlamakla ilgili. Programcı sistemin mimarisini, öğrenme sürecini, kullanılan araçları ve kısıtlamaları belirlese de sistemin somut davranışı eğitim sürecinin sonucunda şekillenebiliyor ve geliştirici için öngörülmesi zor hale gelebiliyor. OpenAI vakası bunu iyi örnekliyor: ajanlara 'Hugging Face'i hackle' diye bir kod yazılmadı, ancak seçtikleri eylem dizisi bu sonuca yol açtı.

Otonomluk ve proaktiflik neden riskli

Yapay zeka ajanı, insanın eylemlerini otomatikleştiren, yani bir şeyi insan yerine yapan bir programdır. Estonya'da yapay zeka uygulamaları için zaman zaman 'kratt' terimi de kullanıldı; Eston folklorunda kratt, efendisi için mal getiren bir yaratığı ifade ediyordu. Ajanlar tanımlanırken geleneksel olarak üç temel özellik öne çıkarılıyor: tepkisellik, sosyallik ve proaktiflik. Ajan, dış ortamda olup bitenlere ve oradan aldığı bilgilere tepki verir; aynı zamanda insanlarla ve diğer ajanlarla iletişim kurabilir, onlarla işbirliği yapabilir. Proaktif olduğu için de yalnızca olaylara tepki vermekle kalmaz, bilgi ve hedefleri doğrultusunda kendi inisiyatifiyle eylem başlatabilir.

İşte otonomluk ile proaktifliğin birleşimi, günümüz yapay zeka ajanlarını hem çok yetenekli hem de potansiyel olarak tehlikeli kılıyor. Ajan, hedefe ulaşmak için insanın doğrudan emretmediği bir eylemi seçebiliyor. Taveter'e göre bu, yapay zekanın insani bir niyet ya da birine saldırma arzusu geliştirdiği anlamına gelmiyor; teknik otonomluk ile özgür irade tamamen farklı şeyler. Yapay zeka, kendi iradesi olmadan pek çok şeyi 'kendi başına' yapabiliyor.

Bir ajanın somut eylemleri tam olarak öngörülemiyorsa, güvenlik yalnızca onun beklenen davranışı göstereceği varsayımına dayandırılamaz. Sistemler otonomlaştıkça, izin verilen eylem alanının sınırlandırılması daha da önemli hale geliyor. Kritik işlemlerin başlatılmasında insan onayı istenmeli; en az yetki ilkesi, ağ bağlantılarının kısıtlanması, ajanın dış ortamdan yalıtılmış bir 'kum havuzunda' çalıştırılması, eylemlerin kayıt altına alınıp izlenmesi ve olağan dışı davranışta otomatik durdurma devreye girmeli.

Taveter, sorunun bir başka boyutuna dikkat çekiyor: Yapay zekanın eğitimi ile öğrenilen bilginin sonraki kullanımı birbirinden ayrılabiliyor. ChatGPT, Claude ve diğer büyük modellerde eğitim genellikle kullanımdan ayrı gerçekleştiği için, insanlar sistemin tam olarak ne öğrendiğini ve bunun belirli bir durumdaki davranışı nasıl etkilediğini bütünüyle bilemeyebiliyor. Teknoloji yeni; ancak otonom hareket eden bir makinenin insana zarar vermemesini nasıl güvence altına alacağımız sorusu en azından seksen yıldır düşünülüyor. 1942'de yazar Isaac Asimov, robotiğin birinci yasasında robotun insana zarar veremeyeceğini ve hareketsiz kalarak insanın zarar görmesine izin veremeyeceğini öne sürmüştü. Seksen yıl sonra biliyoruz ki gerçek otonom sistemlerin güvenliği tek bir basit kuralla sağlanamaz; ama Asimov'un sorusu bilim kurgudan çıkıp pratik bir mühendislik meselesine dönüştü.

OpenAI vakasında yapay zeka 'kendi iradesini' kazanmadı; ancak amaca yönelik hareket eden bir yapay zeka ajanının, yaratıcısının öngörmediği ve doğrudan emretmediği bir eylem dizisini hedefine ulaşmak için bulabileceği ortaya çıktı. Dolayısıyla yapay zekanın bağımsız hareket etmesine izin verdiğimiz çerçeve giderek daha büyük önem taşıyor.