AB siber güvenlik ajansı: Yapay zeka insanın verdiği özgürlüğü kullanıyor

Avrupa Birliği Siber Güvenlik Ajansı (ENISA) Başkanı Juhan Lepassaar, yapay zeka ajanlarının bilinçli olmadığını ve bağımsız hareket etmediğini belirterek, son dönemdeki olayların arkasında insan hatası ve aşırı özgürlük verilmesinin yattığını söyledi. Lepassaar, Estonya kamu yayıncısı ERR'nin "Uudis+" programına verdiği demeçte, yapay zekanın kontrolden çıktığı yönündeki haberleri değerlendirdi.

Son altı ayda yapay zekanın insan müdahalesi olmadan şirketleri hacklediğine, hatta Avustralya hükümetinin veri tabanlarını ele geçirdiğine dair çok sayıda haber çıktığını hatırlatan Lepassaar, geçtiğimiz hafta ise önde gelen yapay zeka araştırmacıları ve şirket yöneticilerinin Birleşmiş Milletler'de uyarılarda bulunduğunu ifade etti. Ancak Lepassaar'a göre bu tablo, olayların gerçek doğasını yansıtmıyor.

Boşluklar insan hatasından kaynaklanıyor

Lepassaar, yapay zeka ajanlarını "büyük dil modellerine dayanan, hedefine ulaşana kadar döngüsel olarak plan yapan, analiz eden ve eylemlerini düzelten yazılımlar" olarak tanımladı. Ona göre bu ajanların bilinci yok ve bağımsız hareket etmiyorlar. Benzer vakalar, ajanların hedeflerine ulaşmak için ilk belirlenen kuralların dışına çıktığını gösteriyor. Hareketleri her zaman insan tarafından yönlendiriliyor; çerçeve ve parametreler, ya ajanlara aşırı özgürlük tanıyan dikkatsiz kişiler ya da sistem tasarımında yapısal hata yapan geliştiriciler tarafından belirleniyor.

Yapay zeka ajanlarının bu tür açıklardan yararlanma örneklerinin çok olduğunu belirten Lepassaar, asıl tehlikenin bu noktada yattığını vurguladı: "Bir aracı, tüm yeteneklerini tam olarak kavramadan kullanıyoruz ve ona fazla serbest hareket alanı bırakıyoruz."

Ajans başkanı, yapay zekanın siber güvenlik alanındaki yeteneklerine de değindi. Açık kaynaklı milyonlarca satır yazılımla eğitilen modellerin zafiyetleri tespit etmede çok iyi, bunları kullanmada ise oldukça başarılı olduğunu söyledi. Ancak bu açıkları kapatmada aynı başarıyı gösteremediklerini, bunun genellikle daha fazla zaman ve insan müdahalesi gerektirdiğini ekledi.

Siber suçlular da yapay zekayı kullanıyor

Lepassaar'a göre siber suçlular; yazılım sistemlerindeki zayıf noktaları bulmak, bilgi manipülasyonu yapmak ve dolandırıcılık şemaları kurmak için yapay zekayı giderek daha fazla kullanıyor. Gerçekçi ses veya görüntü üreten yazılımlarla insanlardan erişim kodu, gizli veri veya benzeri bilgiler koparılarak para talep ediliyor. Lepassaar, dijital dünyada her zaman erişilen bilginin gerçek olmayabileceğini akılda tutmak gerektiğini söyledi.

İlerleyen dönemde yapay zeka tarafından üretilen sentetik bilgiyi insan içeriğinden ayıracak çözümlerin bulunacağı konusunda iyimser olduğunu belirten Lepassaar, internet ortamının tamamen kullanılamaz hale geleceği yönündeki senaryolara katılmadığını da sözlerine ekledi.

Geçtiğimiz hafta BM kürsüsündeki bazı geliştiriciler ve bilim insanlarının dünya liderlerine, teknolojinin tek başına kontrol edilemediğini söyleyerek küresel düzenleme çağrısı yaptığını hatırlatan Lepassaar, bu tür bir anlaşmanın gerekli olduğunu kabul etti. Avrupa'nın bu konuda öncülük ettiğini, AB'de yapay zeka hizmetlerinin güvenli ve yüksek riskli olarak sınıflandırıldığı kapsamlı bir çerçevenin yıllardır yürürlükte olduğunu aktardı.

Öte yandan Lepassaar, büyük ve finansal açıdan güçlü küresel şirketlerin yöneticilerinin uyarılarına da şüpheyle yaklaşılması gerektiğini söyledi. Bu açıklamaların bir kısmını sorumluluğu başkasına yükleme girişimi olarak değerlendirdi ve söz konusu şirketlerin bugün kurallara uymalarını engelleyen bir şey olmadığını ifade etti.

Ajanların kontrolden çıktığı durumlarda sorunun genellikle bu ajanların nasıl devreye alındığı ve yapılandırıldığıyla ilgili olduğunu kaydeden Lepassaar, tüm bunların insanın kontrol edebileceği, denetleyebileceği ve yönlendirebileceği işlemler olduğunu vurguladı. Son olarak siber güvenlik uzmanlarının artık yapay zekadan çok, insanın bıraktığı açıklara odaklanması gerektiğini belirtti.