Anthropic: Ruslar yapay zekayı siber saldırıda kullandı

Yapay zeka şirketi Anthropic'in geçen hafta yayımladığı tehdit raporuna göre Rus hükümeti tarafından finanse edilen bir siber grubu, şirketin Claude adlı yapay zeka modelini saldırılarını otomatikleştirmek ve hızlandırmak için kullandı. Raporda ayrıca Yemen'deki Husi isyancıların aynı modelle uzaktan kumandalı füze sistemlerinin kodunu yazmaya çalıştığı belirtildi.

GTG-20006 adlı grubun, faaliyet hızını otomatikleştirme yoluyla artırmak için yapay zekadan yararlandığı ifade edildi. Grup, daha önce Midnight Blizzard olarak bilinen ve 2023'ten bu yana Microsoft'a saldırarak e-posta adresleriyle şirketin kaynak kodlarına erişmeye çalışan yapıyla da ilişkilendiriliyor.

Raporda adı geçen operatörlerden biri, JackPoterz takma adıyla faaliyet gösterdi. Bu kişinin çalışma yöntemi ve hedef seçimi, Rus casusluk faaliyetlerine işaret etti. Saldırılar Ukrayna ve Avrupa'daki hükümetlere bağlı askeri istihbarat birimlerini, diplomatik ve savunma kuruluşlarını, ayrıca ABD dış politikasıyla ilgili kişileri hedef aldı.

Yapay zeka hem saldırı hem savunma testinde

Yapay zeka, saldırıların otomatikleştirilmesinde; yazılım geliştirme, altyapı temini, oltalama (phishing), komuta sunucuları üzerinden erişimin sürdürülmesi ve verilerin dışarı çıkarılması gibi aşamalarda devreye girdi. Ayrıca araçların bilinen güvenlik sistemlerine ne kadar fark ettirmeden yaklaşabildiği de yapay zeka yardımıyla izlendi. Takip eden ajanlar bir güvenlik çözümünün kötü amaçlı yazılımı tespit ettiğini belirlediğinde, yazılım otomatik olarak değiştirilip yeniden derlendi ve yeni tespit yöntemlerinden kaçması sağlandı.

Şirkete göre savunma sistemleri birçok sorguyu engelledi, ancak bazı istekler sisteme takılmadan geçti. Husiler, Claude aracılığıyla insansız hava araçlarının yönlendirme sistemleri (CNG: kontrol, navigasyon ve yönlendirme) ile uzaktan kumandalı silah sistemleri geliştirdi. Anthropic bunun başarıya ulaştığına dair kanıt bulunmadığını belirtirken, Husilerin uzaktan kumandalı bir füze deneme atışı yaptığını, atışın başarısız olduğunu aktardı.

Şirket bağlantılı faaliyetlere dair önceki bulgular

Şirket ayrıca Moskova'nın otonom saldırı dron sürüsü geliştirme girişimini engellediğini duyurdu. Soruşturma kapsamında grubun saldırmayı planladığı, gerçekten saldırdığı veya gözetlediği 20'den fazla kuruluş tespit edildi. Bunlar arasında bakanlıklar, savunma ve istihbarat kurumları, büyükelçilikler ile diplomatik temsilcilikler, düşünce kuruluşları ve savunma sanayii şirketleri yer aldı. Hedefler ağırlıklı olarak Ukrayna ve Avrupa'da bulunuyordu; saldırılar Orta Doğu'ya ve Asya'daki denizcilikle ilgili hükümet kurumlarına kadar uzandı. Saldırılar esas olarak Ukrayna ile askeri drone teknolojisi üreten şirketlere ve tedarik zincirlerine yöneldi. İstisnalar arasında Güneydoğu Asya'da deniz taşımacılığı ve deniz gözetimiyle uğraşan bir hükümet kurumu ile Kuzey Afrika'daki bir ulusal teknoloji dairesi vardı.

Anthropic, tehdit raporunu geçen yıldan bu yana yayımlıyor. Önceki raporlarda Claude'un veri saldırılarında kullanıldığı, Kuzey Koreli IT çalışanlarının yapay zekayla ürettikleri sahte kimliklerle ABD'deki Fortune 500 şirketlerinde iş bulduğu ve Çin devleti tarafından finanse edilen bir grubun program aracılığıyla siber saldırılar düzenlediği belirtilmişti.

Bunun yanı sıra Estonya'da benzer dolandırıcılık yöntemleri görülüyor. Telefon dolandırıcılığı kurbanı olan Estonya Sanatçılar Birliği 700 bin euro kaybetti. Kurumlara yönelik hedefli oltalama (spear phishing) saldırıları da yaşandı. Bahar aylarında üst düzey Estonyalı kişilere yönelik bir siber saldırı düzenlendi ve bunun arkasında büyük olasılıkla yine Rusya vardı. Geçen hafta üç büyük yapay zeka şirketinin yöneticisi, teknolojinin gelişiminin kontrol edilemez bir tehlike oluşturmadan önce yavaşlatılması gerektii uyarısında bulundu. Bu yöneticilerden biri Anthropic'in CEO'su Dario Amodei'ydi.