Dauri Kivipuur: Kişisel özgürlüğümüzü algoritmalara mı bırakıyoruz?

Estonya'da hükümetin yapay zeka ajanlarını yasal olarak tanımlama ve onlara ulusal kimlik kodları verme planı, ülkenin e-devlet modeli ve toplumsal geleceği açısından tartışma yarattı. Kamu yönetimi uzmanı Dauri Kivipuur, ERR Uudised'de yayımlanan analizinde, bu düzenlemenin insanın kendi hayatı üzerindeki kontrolünü algoritmalara bırakma yönünde tehlikeli bir adım olduğu uyarısında bulundu.

Ekonomi ve İletişim Bakanlığı'nın, insanların kamu ve özel sektör sistemlerindeki işlemlerini otonom makinelere devretmesine olanak tanıyacak yasa tasarısını hızla parlamentoya sunması, e-devlet mimarları ve uzmanlar tarafından ham, çelişkili ve güvenlik riskleri nedeniyle tehlikeli bulunuyor. Ancak Kivipuur'a göre asıl sorun hukuki ve teknik karmaşanın ötesinde: insanın özerkliğinin ve eylemlilik halinin (agentsus) kademeli olarak makinelere devredilmesi.

Günlük işlerin devri insanı pasifleştiriyor

Tasarıda devredilmesi öngörülen işlemler arasında banka hesap bakiyelerinin analiz edilmesi, telefon faturalarının ve mobil paketlerin maliyet tasarrufu amacıyla gözden geçirilmesi, vergi dairesine gelir beyanında bulunulması veya kredi kartıyla uçak bileti aranıp satın alınması gibi örnekler yer alıyor. Kivipuur, bunların sadece mekanik yükümlülükler olmadığını, insanın bilişsel yeteneklerini, finansal okuryazarlığını ve kendi yaşam koşullarına ilişkin sorumluluk duygusunu canlı tutan temel günlük faaliyetler olduğunu vurguluyor.

Ona göre, insan kendi eylemliliğinden vazgeçip yaşamının yönetimini algoritmalara devrederse, insana ne kalır? Makinenin bizim adımıza karar verip hareket ettiği rahat bir seyirci rolüne gönüllü çekilme, kaçınılmaz olarak eleştirel düşüncenin zayıflamasına ve teknolojiye zihinsel bağımlılığa yol açar.

Analizde, tasarının öngörülemeyen sosyal sonuçlarının yanı sıra ajanların ekonomiye ve sıradan insanlara gerçek faydasının belirsiz ve kanıtsız olduğu belirtiliyor. Rekabet Kurumu'nun (Konkurentsiamet), ajan kodlarının oluşturulması ve e-resident'lere sunulmasının ekonomik riskleri ile faydalarının değerlendirilmediğini söylediği aktarılıyor. Benzer şekilde veri koruma etki analizleri ve değerlendirmeleri de eksik. E-devlet mimarları, güçlü kimlik doğrulama olmadan merkezi bir kaydın gerçek bir sorunu çözmeyeceğine işaret ediyor.

Bütçe açığı döneminde kaynak israfı eleştirisi

Kivipuur, ülkenin büyük bir bütçe açığıyla karşı karşıya olduğu ve gelirleri artırma ile yönetim maliyetlerini kısma yolları araması gerektiği bir dönemde, "her ihtimale karşı" yapılan bir deneye kamu yönetimi zamanı, bürokratik kaynak ve BT geliştirme harcamalarının ayrılmasını anlaşılmaz buluyor. Bakanın bile teknik çözümü henüz bilmediğini ve projenin çok karmaşık hale gelmesi durumunda iptal edilebileceğini kabul ettiğini hatırlatıyor. Bu koşullarda kamu parası ve memur mesaisinin harcanmasını "kriz döneminde üzücü bir sorumsuzluk" olarak nitelendiriyor.

İyi kamu yönetiminin önemli konulara odaklanmayı gerektirdiğini belirten Kivipuur, mevcut ekonomik durumda devletin yönetim kaynaklarını gelir modelleri bulmaya, bürokrasiyi azaltmaya ve gerçekten işleyen kamu hizmetleri sağlamaya yönlendirmesi gerektiğini savunuyor. Yapay zeka ajanlarının fiziksel insanın yerine geçecek şekilde aceleyle yasalaştırılmasının gereksiz bir idari yük olduğunu ve vatandaşın çıkarına hizmet etmediğini ekliyor. İnsanın kendi hayatının karar vericisi olarak kalması gerektiğini, ancak böylece düşünme, sorumluluk alma ve bağımsız hareket etme yeteneğine sahip bir toplumun korunabileceğini ifade ediyor.