Tartu Üniversitesi raporu yapay zekâda 12 risk tanımladı

Tartu Üniversitesi Eetikakeskus (Etik Merkezi) bünyesindeki bir çalışma grubu, Eylül ortasında eğitimde yapay zekâ kullanımına ilişkin bir risk ve değer analizi yayımladı. Analiz, TI-Hüpe adlı eğitim yenilik programı ve yapay zekâ tabanlı öğrenme uygulamasıyla ilgili 12 risk senaryosunu tanımlıyor ve bu risklerin nasıl azaltılabileceğine dair öneriler sunuyor. Çalışmanın yazarları arasında Tartu Üniversitesi etik merkezinin başkanı ve pratik felsefe profesörü Margit Sutrop da yer alıyor.

Analizin çıkış noktası, yapay zekâ tabanlı bir öğrenme uygulamasının Estonya okullarında kullanıma alınmasının yalnızca teknik bir yenilik olmadığı. Uygulamanın öğrenmeye, öğretmenlerin işine, eğitimde fırsat eşitliğine, Estonca dil ve kültürüne ve toplumsal değerler alanına etkisi olacağı belirtiliyor. Nihayetinde meselenin, eğitimin hangi insanı ve hangi toplumu yetiştirmek istediği sorusuyla bağlantılı olduğu ifade ediliyor.

Riskler pedagojik, toplumsal ve altyapısal başlıklarda toplanıyor

Raporda tanımlanan 12 risk senaryosu pedagojik, toplumsal ve altyapı-yönetim riskleri olarak gruplandırılıyor. Bu ayrım, yapay zekâ kullanımına bağlı sorunların yalnızca teknik işleyiş ve siber güvenlikle sınırlı olmadığını gösteriyor. Sorunlar öğrenmenin amaçları ve değerlendirmenin güvenilirliği, öğretmenin rolü, Estonca dil ve kültürünün sürdürülebilirliği, kişisel verilerin korunması, teknolojik çözümlerin güvenilirliği ve sürdürülebilirliği gibi alanlara uzanıyor. Rapora göre risklerin analiz edilmesi, yeniliğin başarılı olabilmesi için gerekli. Tanımlanan senaryolar olası gelişmeler; bunları önlemek için tarafların kendi sorumluluklarını görmeleri ve bilinçli kararlar almaları gerekiyor.

Risklerin bir kısmıyla TI-Hüpe programının hâlihazırda ilgilendiği, bir kısmında ise hangi tarafın hangi tedbirlerden sorumlu olacağının kararlaştırılması gerektiği belirtiliyor. Sorumluluk TI-Hüpe, okullar ve okul sahipleri, devlet kurumları, araştırma kurumları ve teknoloji sağlayıcıları arasında paylaşılıyor. Raporda ayrıca değer tercihleri de haritalandırılarak yapay zekâ tabanlı bir öğrenme uygulamasının geliştirilmesinde ve kullanımında nelerin risk altında olduğu görünür kılınıyor. Analizin en önemli sonuçlarından biri, en büyük risklerin teknolojinin kendisinden değil, kullanım biçiminden ve eğitimle siyaset alanındaki tercihlerden kaynaklandığı.

Estonya'da 2024 yılının başında yapılan bir araştırma, lise öğrencilerinin yüzde 90'ının ders çalışırken yapay zekâ kullandığını ortaya koymuştu. Öğrenciler çoğunlukla ticari uygulamaların ücretsiz sürümlerini, okul ödevlerini daha hızlı bitirmek için kullanıyor. Rapora göre bir öğrenci yapay zekâ yardımıyla istenen sonucu hızla elde etse bile bu, öğrenmenin gerçekleştiği anlamına gelmiyor. Öğrenci kusursuz bir metin teslim edebilir, ancak bu metnin düşünce zincirini bağımsız olarak yeniden kuramayabilir, savları gerekçelendiremeyebilir ya da bilgiyi yeni bir durumda kullanamayabilir. Böylece öğrenme, fark edilmeden öğrenme izlenimi yaratmaya dönüşebilir. TI-Hüpe eğitim programının tam da bu gelişmeyi önlemek için oluşturulduğu belirtiliyor. Program, öğrencilere yönelik bir öğrenme uygulaması geliştirmenin yanı sıra öğretmenlerin yapay zekâ yetkinliklerini geliştirmeyi de amaçlıyor. İhtiyaç açık: 2024 sonbaharında yapılan bir araştırmada öğretmenlerin yüzde 47'si işinde yapay zekâ araçlarını kullanmadığını söylemişti.

Öğretmenin pedagojik lider rolü korunmalı

OpenAI ile Estonyalı araştırmacıların işbirliğinde Estonya okulları için geliştirilen Sokratesçi öğrenme uygulaması, sıradan bir sohbet robotundan farklı. Uygulamanın görevi, sorular, ipuçları ve geri bildirim yoluyla öğrencinin kendi çözümüne ulaşmasına, düşüncesini düzenlemesine ve öğrenmesini planlamasına yardımcı olmak. Raporda bu hedefin soylu olduğu, Sokratesçi uygulamanın öğrenmeyi derinleştirebileceği, kişiselleştirilmiş destek sağlayabileceği ve kaliteli öğrenme desteğini daha erişilebilir kılabileceği ifade ediliyor. Ancak hiçbir teknolojinin bu olanakların kendiliğinden gerçekleşmesini garanti etmediği vurgulanıyor. En az bunun kadar önemli olan, uygulamanın öğrenme sürecine nasıl entegre edileceği, hangi görevlerde kullanılacağı, öğretmenin öğrencinin öğrenme süreci hakkında ne kadar bilgi sahibi olacağı ve okullara ne tür destek verileceği.

Yapay zekâ kullanımı değerlendirmenin de değişmesini gerektiriyor. Akademik dürüstlüğün yapay zekâ çağında yalnızca yasaklar ve denetimle korunamayacağı, bunun yanı sıra öğrencinin düşünme sürecini görünür kılan görevler tasarlanması, izin verilen kullanım konusunda anlaşmaya varılması ve gençlere yapay zekâyı dürüstçe açıklamayı, yanıtlarını denetlemeyi ve bunların sorumluluğunu almayı öğretmenin gerektiği belirtiliyor. En temel soru ise Estonya eğitiminin amaçlarına ilişkin: Eğitim, insanı kişisel yaşamına, topluma katılımına ve iş yaşamına hazırlamalı. Bunun için bilgi, beceri ve değer tutumlarından oluşan yetkinlikler gerekiyor. Yapay zekâ tabanlı öğrenme uygulaması bazı yetkinliklerin kazanılmasına yarar sağlayabilir; ancak eleştirel düşünme, iletişim ve işbirliği becerisi ile toplumda sorumlu katılım isteğinin geliştirilmesi hâlâ okulun görevi.

Öğretmen ile öğrenci arasındaki öğrenme ilişkisi de risk alanlarından biri. Yapay zekâ her zaman erişilebilir, sabırlı ve kişiselleştirilmiş bir rehber olabilir. Bu nedenle öğrencinin gözünde ona bilinçli olarak verilmemiş bir otorite oluşabilir. Rapora göre yapay zekâ öğretmen, arkadaş ya da ahlaki otorite değil. Öğrenciyi bir insan olarak tanımıyor ve onun gelişiminin sorumluluğunu taşımıyor. Öğretmenin görevi bilgi aktarmanın yanı sıra öğrenciyi cesaretlendirmek, sınırlar koymak, hassas durumları fark etmek, öğrencilerle birlikte değerler üzerine tartışmak ve tüm bunları güvenli ve güvene dayalı bir öğrenme ortamında yapmak. Bu nedenle TI-Hüpe uygulamasında öğretmenin pedagojik lider rolünün korunması gerekiyor. Öğrenme uygulaması, öğretmenin yönettiği öğrenme sürecini desteklemeli; onun yanında görünmez bir paralel pedagojik otorite hâline gelmemeli. Öğretmene, aracın kullanımının sonuçlarının sorumluluğu, eğer süreç üzerinde yeterli görüş, karar yetkisi ve gerekli destek yoksa yüklenemez. Mevcut çözümün öğretmene öğrencinin öğrenme süreci hakkında henüz yeterli bilgi vermediği belirtiliyor. Öğretmenlere yapay zekânın olanakları tanıtılıyor, denemeler ve deneyim paylaşımı destekleniyor. Bunun yanı sıra ders bazlı didaktik desteğe, değerlendirmenin değiştirilmesine yönelik önerilere ve ortak kararlar oluşturmak için zamana ihtiyaç var.

Raporda okulun, okul sahibinin, devletin, TI-Hüpe vakfının ve teknoloji ortaklarının sorumluluğunun da net biçimde tanımlanması gerektiği vurgulanıyor. Okul, öğrenme ortamının kalitesi ve güvenliği ile öğrencinin haklarının korunmasından sorumlu olmaya devam ediyor. Uygulamanın kullanıma alınmasını bir vakfın düzenlemesi ya da teknolojik çözümü özel bir şirketin sunması bu sorumluluğu ortadan kaldırmıyor. Daha az görünür ancak daha derin risklerden biri de değer çatışması. Büyük dil modellerinin yanıtlarını eğitim verileri, geliştiricilerin tercihleri, güvenlik filtreleri, içerik politikaları ve ticari hedefler şekillendiriyor. Buradaki risk kötü niyetli bir etkileme anlamına gelmiyor; değer etkisi yavaş ve fark edilmesi zor olabilir, sürekli yinelenen örneklerin seçiminde, problem kurgularında, argümantasyon biçimlerinde ve varsayılan kabullerde ortaya çıkabilir. Yapay zekânın hangi değerlerden hareket ettiği, bunların Estonya'nın anayasal değerleriyle ve eğitimin temel değerleriyle uyuşup uyuşmadığı, toplumda meşru değer çatışmaları yaşandığında ve tek bir tartışmasız yanıt bulunmadığında uygulamanın nasıl davranacağı soruları gündeme geliyor. Yapay zekânın değerlerle hizalanması, makineye tek ve herkes için zorunlu bir ahlak dersi yazılması anlamına gelmiyor. Demokratik bir toplumda değerlerin çokluğu kaçınılmaz ve çoğu zaman gerekli; ancak insan hakları ve insan onuru korunmalı, zarar ve ayrımcılık önlenmeli, önemli değer tercihlerinin yabancı bir teknoloji şirketinin varsayılan ayarları üzerinden değil, şeffaf ve demokratik biçimde yapılması güvence altına alınmalı.