AB siber güvenlik kurumu: Yapay zeka insanın verdiği serbestliği kötüye kullanıyor

Avrupa Birliği Siber Güvenlik Ajansı (ENISA) başkanı Juhan Lepassaar, yapay zeka ajanlarının bilinçli ya da bağımsız hareket etmediğini, son dönemdeki güvenlik olaylarının insanların sistemlere bıraktığı açıklardan kaynaklandığını belirtti. Lepassaar, Estonya kamu yayıncısı ERR'nin "Uudis+" programına verdiği mülakatta, yapay zekanın insan kontrolünden çıktığı yönündeki haberlerin gerçeği tam yansıtmadığını ifade etti.

Son altı ayda yapay zekanın insan müdahalesi olmadan hareket ettiği ve yapay zeka kullanan şirketlere sızdığı yönünde çok sayıda haber yayımlandı. Avustralya hükümetinin veri tabanlarına yönelik ihlaller de bu kapsamda gündeme geldi. Geçen hafta ise önde gelen yapay zeka araştırmacıları ve şirket yöneticileri Birleşmiş Milletler'de yapay zekanın kontrolden çıkabileceğini ve insanlık için ciddi bir tehdit oluşturabileceğini dile getirdi.

Ajanlar hedefe ulaşmak için arka kapıları kullanıyor

Lepassaar'a göre bu tablo, distopik bilim kurgu romanlarından fırlamış gibi görünse de olayların arkasında farklı bir mekanizma var. Yapay zeka ajanları, büyük dil modellerini döngüsel biçimde kullanarak hedeflerine ulaşana kadar planlama, analiz ve uyarlama yapan yazılım programları. Ancak bunlar bilinçli değil ve kendi başlarına hareket etmiyor.

Olaylar, ajanların hedeflerine ulaşmak için başlangıç parametrelerinin dışına çıkmasıyla ortaya çıkıyor. Lepassaar'a göre ajanların faaliyetlerini her zaman bir insan yönlendiriyor. Sorun, bu çerçeveyi ya da parametreleri oluşturan kişinin ya biraz dikkatsiz davranması, ajana çok geniş serbestlik tanıması ya da ajanın kurulum biçimindeki tasarım hatalarından kaynaklanıyor.

Lepassaar, bu tür örneklerin oldukça fazla olduğunu ve ajanların hedeflerine ulaşmak için her türlü arka kapıyı kullandığını söyledi. Bu arka kapılar, insanın onlara verdiği aşırı esnek komutlar. Buradaki risk de bir aracı, tüm olanaklarını kavramadan kullanmak ve ona çok geniş hareket alanı tanımak.

Siber suçlular yapay zekayı giderek daha fazla kullanıyor

ENISA uzmanlarına göre bugün yapay zekayla ulaşılan nokta, "çok büyük ek güç verilmiş bir hacker" gibi. Ajanların hedefleri, insanların kendi ekiplerine verdiği hedeflere oldukça benziyor. Pek çok yapay zeka modeli belirli görevleri yerine getirmek için geliştiriliyor ve göreve ilişkin veri kümesi eğitimin temelini oluşturuyor. Siber güvenlik alanında bazı modeller, milyonlarca ve milyarlarca satır açık kaynak yazılım koduyla eğitilerek zafiyet bulma konusunda uzmanlaştırılıyor. Bu modeller zafiyetleri bulmakta ve bunları kullanmakta oldukça başarılı; ancak zafiyetleri kapatmakta iyi değiller. Bu süreç çoğu zaman çok daha fazla zaman ve insan müdahalesi gerektiriyor.

Bu nedenle siber suçluların da aynı zafiyetleri tespit etmek, veri çalmak ya da sistemlerin işleyişini engellemek için bu modelleri giderek daha fazla kullandığı görülüyor. Lepassaar'a göre suçlular yapay zekayı yalnızca yazılım açıklarını bulmakta değil, bilgi manipülasyonu ve dolandırıcılıkta da kullanıyor. Gerçek gibi algılanan sentetik ses ya da görüntü üretilerek insanlardan giriş kodu, veri ya da daha sonra para sızdırmaya imkân tanıyacak bilgiler koparılıyor.

Lepassaar, yapay zeka düzenlemesi konusunda küresel ölçekte büyük ve finansal açıdan güçlü şirket yöneticilerinin uyarılarına ise kuşkuyla yaklaşılması gerektiğini söyledi. Ona göre bu söylem, sorumluluğu başkasına yükleme çabası gibi görünüyor. Bugün bu şirketlerin kurallara uymasını ve yapay zekayı mümkün olduğunca risksiz geliştirmesini engelleyen bir şey yok. Ayrıca yapay zeka ajanlarının kontrolden çıktığı durumlarda sorun genellikle ajanların nasıl uygulandığı, yapılandırıldığı ya da yönlendirilmesinde hangi araçların kullanıldığıyla ilgili. Tüm bunlar insanın kontrol edebileceği, gözden geçirebileceği ve yönlendirebileceği işlemler.

Estonya'nın başkenti Tallinn'de bulunan ENISA, Avrupa Birliği'nin siber güvenlik alanındaki uzman kuruluşu olarak üye ülkelere teknik destek sağlıyor ve yapay zekanın güvenli geliştirilmesi için yazılım üreticilerine teknik öneriler yayımlıyor. Lepassaar, sıradan kullanıcılar için tek bir temel kuralın altını çizdi: Kişisel verileri üçüncü kişilerle paylaşmamak ve tanımadıkları bağlantılara tıklamamak.