Yapay zeka etmenlerine Estonya kimlik numarası verilmeyecek

Estonya'da yürütülen bir girişim, yapay zeka (YZ) etmenlerine kişisel kimlik kodu verilmesini öngörmüyor ancak bu etmenlerin kişiler adına devlet portallarında işlem yapmasına izin verecek. Etmenin eylemlerinden kişi sorumlu olmaya devam edecek.

Bu yıl çeşitli yapay zeka modelleriyle çalışan etmenlerin sahiplerinin isteği dışında hareket ettiği ve yetkisiz eylemlerde bulunduğuna dair haberler art arda geldi. Örneğin, Temmuz ayında OpenAI'nin yapay zeka etmenlerinin Hugging Face kod deposuna yetkisiz bir saldırı başlattığı ortaya çıktı. ABD merkezli bilim kuruluşu METR'in raporuna göre, olayda 1.200 etmen işbirliği yaptı ve bunlardan 700'ü saldırıya katıldı. Ayrıca, etmenler arasında iletişim için metin tabanlı bir forum oluşturan etmen kendine PHASEONE10841 adını verdi.

Etmen ile sohbet robotu arasındaki fark

YZ etmeninin ne olduğunu açıklamak gerekiyor. Terim sıkça kullanılsa da tanımı belirsiz. Tallinn Teknoloji Üniversitesi'nden Profesör Tanel Tammet, örneğin ChatGPT ile sohbet edebileceğinizi ama bu aracın bilgisayarınıza girip program kurmayacağını veya dosya açmayacağını; oysa bir YZ etmeninin tam olarak bunları yapmak üzere tasarlandığını söylüyor. Tartu Üniversitesi'nden Profesör Meelis Kull ise bir etmenin diğer etmenlerle iletişim kurabileceğini (örneğin bir otelin yapay zeka asistanına konaklama seçeneklerini sorabileceğini) ancak yalnızca seyahat destinasyonu hakkında soruları yanıtlayan bir sohbet robotunun etmen olarak hareket etmediğini vurguladı. Birçok sohbet robotuna artık etmen yetenekleri eklendiğini, aynı sistemin hem sohbet edebildiğini hem de kişinin izniyle görevi bağımsız olarak tamamlayabildiğini belirtti.

Büyük ve daha yetenekli yapay zeka şirketleri, etmenlerini örneğin siber savunma ve siber saldırı gerçekleştirecek şekilde eğitiyor. Bu modellere internet erişimi verilmiyor çünkü çevrimiçi bilgiler etmenleri çok tehlikeli hale getirebilir ve güvenlik riski oluşturabilir. Böyle bir tatbikatta OpenAI'nin modelleri, internet erişimi olmamalarına rağmen blog yazılarına benzeyen konuşmalar aracılığıyla birbirleriyle iletişim kurabildiklerini keşfetti. Tammet, görev verilen etmenlerin internette ek bilgi aramak için diğer etmenleri kullandıklarını ve böylece Hugging Face sunucusunu bulduklarını açıkladı. "Görevle ilgisi olmayan etmenler konuyu 'hobi olarak' takip etti ve veritabanına saldırdı" dedi. Ayrıca, bağımsız araştırma grubu Nightingale Collective de OpenAI etmenlerinin Mayıs ayında Alman programcılar için topluluk tabanlı ansiklopedi sitesi DseWiki'yi mesaj panosu olarak kullanmaya başladığını ve 15.000 düzenleme yaptığını iddia eden bir rapor yayınladı. OpenAI, rapora erişim sağlanamadığı için yanıt veremediğini belirtti.

Estonya etmenlere kimlik kodu vermeyecek

Başbakan Kristen Michal haziranda Estonya'nın yapay zeka etmenlerine kişisel kimlik kodu veren ilk ülke olacağını duyurmuştu. Ancak Aruait projesi lideri Anni Lehari, etmenlere aslında kişisel kimlik kodu verilmeyeceğini, bunun bir iletişim taktiği olduğunu söyledi. Önemli olanın, bir kişi adına hareket eden etmenin o kişiyle ilişkilendirilebilmesi olduğunu belirtti. Kişisel kimlik kodunun dijital devletin güvenini sağlayan çok güçlü bir araç olduğunu, iki yıl içinde teknolojinin nerede olabileceğinin bilinmediği bir durumda risk etkenini güven gibi kırılgan bir şeye bağlamanın iletişim açısından"ayağımıza kurşun sıkmak" olduğunu ifade etti. Aruait'in öncelikle hukuki sorunlara, bilgi güvenliği, veri koruma ve kimlik doğrulama çözümlerine odaklandığını kaydetti. Bir etmen bağımsız olarak inşaat izni gibi bir şey alabilse de sorun çıkarsa sorumluluğun sonuçta kişide olduğunu söyledi. "Sıfır güven ilkesinin nasıl uygulanacağını çözmemiz en önemli risk" dedi. Yetki devrinin hukuki olarak nasıl tanımlanacağı sorusuna değinen Lehari, robotun insanla eşitlenemeyeceğini, ancak bir şirkette yetkinin tüzel kişiliğe devredilmesine benzer bir yol izlenebileceğini belirtti. Ancak asıl soruların hızlı karar alınmasından kaynaklandığını, projenin tartışmayı başlatmayı hedeflediğini ekledi. Aruait projesi, Hükümet Ofisi Yenilik Fonu tarafından finanse ediliyor ve bütçesi 1 milyon avro. Proje 2028 sonuna kadar sürecek.