Estonya'da yapay zeka ajanı kaydı planına uzmanlardan itiraz

Estonya, yapay zeka ajanlarının devlet sistemine kaydedilmesini sağlayacak bir yasa tasarısı hazırladı. Ancak bilişim uzmanları ve çeşitli kurumlar, tasarının mevcut haliyle güvenlik ve hukuk açısından sorunlu olduğunu savunuyor. Ekonomi ve Sanayi Bakanı Liina Vahtras, tasarının amacını yapay zeka ajanlarının insan adına işlem yaparken ayırt edilebilmesini sağlamak olarak açıklıyor.

Yapay zeka ajanı, ChatGPT gibi soru-cevap yapan bir sohbet robotundan farklı. Ajana bir görev verildiğinde, bu görevi yerine getirmek için kendi yöntemini kendisi buluyor. Uzmanlar bunu, "yeri temizle" talimatı alan ve bunu nasıl yapacağı tam olarak bilinmeyen bir robot elektrik süpürgesine benzetiyor. Bakan Vahtras, insanların vergi beyannamesi vermek, banka hesap hareketlerini analiz etmek veya telefon faturalarını incelemek gibi işlerde ajanlardan giderek daha fazla yararlandığını söylüyor. Dünyada ajanların en uygun uçak biletlerini bulup satın aldığı ve kredi kartı bilgilerinin yapay zekaya verildiği örnekler de bulunuyor; bu durum ciddi bir güvenlik riski olarak görülüyor.

Tasarı kapsamında kişilere, kendi adlarına hareket eden makineleri ayırt edebilmeleri için "ajan kodu" adı verilen ek bir kod kaydetme imkânı tanınması planlanıyor. Bakan Vahtras, ajanlara gerçek anlamda bir kimlik verilmediğini, yalnızca kişinin kendisi ile kendi adına işlem yapan makineyi ayırt etmesine olanak sağlandığını vurguluyor. Kodlar, kimin adına hangi ajanın faaliyet gösterdiğinin kontrol edilebileceği ortak bir veri tabanında toplanacak. Başlangıçta ajanların hem kişiler hem de şirketler tarafından ve bir kişi adına birden fazla kaydedilmesi düşünülmüş, ancak bu plandan vazgeçilmiş. İlk aşamada yalnızca gerçek kişiler tek bir ajan kaydedebilecek. Bakanlık, sistemin nasıl işleyeceğini görmek için önce bu sınırlı modeli uygulamayı planlıyor.

Cybernetica: tasarı mevcut haliyle tehlikeli

Ajan kodu fikri bilişim sektöründen çıkmış olsa da sektörde bu düzenlemeye karşı ciddi bir eleştiri var. Estonya e-devlet mimarisinde önemli bir yere sahip olan bilişim şirketi Cybernetica, tasarıya 11 sayfalık eleştiri gönderdi. Şirkete göre metin eksik ve çelişkili, hazırlık sürecinde yeterince çalışma yapılmamış. Cybernetica, tasarının bu haliyle kabul edilmesinin amaçları karşılamayacağını ve tehlikeli olduğunu belirterek bakanlıklara tasarıyı bu şekilde onaylamamalarını önerdi. Sonuç olarak hiçbir bakanlık tasarıyı süresi içinde onaylamadı; yalnızca Devlet Şansölyeliği onay verdi.

Cybernetica geliştirme direktörü Arne Ansper, ERR'e yaptığı açıklamada en önemli sorunlardan birinin güvenlik olduğunu söyledi. Ansper'e göre ajan, ID-kart ve PIN kodları gibi güçlü bir kimlik doğrulama ya da imzalama aracına sahip olmazsa, kayıt tek başına bir anlam taşımıyor. Bu güvenlik seviyesinin ID-kart, Mobiil-ID veya Smart-ID ile aynı düzeyde olması gerektiğini belirten Ansper, seviyenin düşük kalması ve bir kişinin tüm yetkilerini bu araca devretmesi halinde genel güvenlik düzeyinin düşeceği uyarısında bulundu. Ansper, Estonya e-devletinin ve dijital kimlik ilkelerinin bugüne kadar çok iyi işlediğini, bunun bozulmaması gerektiğini vurguladı.

Ansper ayrıca yasa değişikliğinin, ajanların tam olarak nasıl kaydedileceğine dair teknolojik çözüm ortaya çıkmadan tamamlanmasını da eleştiriyor. Ona göre hukuk düzenlemesi teknolojiden bağımsız yürütülemez. Bakan Vahtras ise proje için çok sıkı bir takvim belirlendiğini, yıl sonuna kadar bir temel oluşturmak amacıyla hukuk çalışma grubunun öncelikli hale getirildiğini söylüyor. Vahtras, teknik çözümün henüz netleşmediğini ve daha fazla tarafı sürece dahil etmek istediklerini belirtiyor.

Eleştiriler farklı alanlardan geliyor. Hukuk uzmanları tasarının iyi hukuk düzenlemesi ilkelerine uymadığını savunuyor. Bilişim uzmanları, terimlerde hata yapıldığını ve yapay zeka kullanımına ilişkin teknik özelliklerin dikkate alınmadığını belirtiyor. Rekabet Kurumu, kodların oluşturulması ve e-residentlere sunulmasının ekonomik risklerinin değerlendirilmediği gerekçesiyle tasarıyı destekleyemiyor. Veri Koruma Denetim Kurumu ise veri koruma risklerine ilişkin bir etki analizinin bulunmamasını eleştiriyor.

Bilişim ve Telekomünikasyon Birliği (ITL) de tasarının bu haliyle ilerletilmemesini istiyor. Ancak ITL Başkanı Ats Albre, ERR'e yaptığı açıklamada devletin yönünün doğru olduğunu, önemli olanın birliğin geri bildirimlerinin de dikkate alınması olduğunu söyledi. Albre'ye göre netleştirilmesi gereken en önemli konulardan biri sorumluluk. Bir girişimcinin yapay zeka ajanından erişimi olan verileri İstatistik Kurumu'na sunmasını istemesi örneğini veren Albre, kimin neyden sorumlu olduğunun henüz yeterince açık olmadığını belirtti. ITL olarak sonunda insanın kendisinin sorumlu olması gerektiğine emin olmak istediklerini söyledi. Albre, her şeyin düzenlenmesi gerekmediğini, bazı konuların teknolojik olduğunu ve yasaya ihtiyaç duymadığını da sözlerine ekledi. Birliğin üyelerinin önümüzdeki hafta bakanla bir araya gelerek geri bildirimleri görüşmesi bekleniyor.

Eleştirilerin gölgesinde neden acele edildiği sorusu da gündemde. Tasarıya sıfırdan ve düzgün bir şekilde başlanması yönünde öneriler de dile getiriliyor. Bakan Vahtras ise mevcut tasarı üzerindeki çalışmanın yarıda bırakılmaması gerektiğini savunuyor. Vahtras, önceki iş deneyiminde gördüğü üzere büyük yeniliklerin yasa değişikliklerinin arkasında kaldığını, devletin yenilik yapabilmesi ve teknik çözümün hızla geliştirilebilmesi için yasanın değiştirilmesi gerektiğini söylüyor. Amaç, yasa değişikliklerinin kasım başında Riigikogu'ya (Estonya parlamentosu) ulaşması. Vahtras, tasarının yeniden düzenleneceğini, ajan kaydının bir zorunluluk değil yalnızca bir imkân olduğunu ve plan işlemezse bundan kolayca vazgeçilebileceğini vurguluyor. Ona göre bu düzenlemenin devlete maliyeti asgari düzeyde.