Yapay zeka bilim insanlarının çalışma alışkanlıklarını değiştiriyor

Yapay zeka, veri analizini ve makale üretimini hızlandırırken, makine tarafından üretilen metinler bilimsel yayınların güvenilirliğini tehdit ediyor ve araştırmacıları yerleşik çalışma yöntemlerini kökten yeniden düşünmeye zorluyor.

Opinion Festival'de Cuma günü düzenlenen "Milyon Sensör, Tek Gezegen: Nesnelerin Yapay Zekâsı (AIoT) Bilimi Nasıl Değiştiriyor?" başlıklı panelde uzmanlar, yapay zekânın bilim dünyasına getirdiği zorlukları ve fırsatları ele aldı. Panelde, yaklaşık on yıl önce tek bir araştırma projesi için veri toplamanın ve yorumlamanın yıllar alabildiği, ancak bugün algoritmaların araştırmacılarla birlikte birkaç gün hatta daha kısa sürede bilimsel makale taslakları üretebildiği vurgulandı. Bu durum, akademik dergilerin editör ofislerinin yapay zeka kaynaklı içerikle dolmasına yol açıyor.

Editörler yapay zeka ürünü makalelerden şikayetçi

Tartu Üniversitesi yönetişim ve hukuk politikası doçenti Helen Eenmaa, bilimsel kayıtların bütünlüğünü ciddi bir sorun olarak görüyor. Eenmaa, "Dergilere büyük ölçüde dil modelleri kullanılarak üretilmiş çok sayıda bilimsel makale geliyor. Dergi editörleri, makale hacminin muazzam arttığını ve yüzde 90'ının yapay zeka destekli çöp olduğunu söylüyor. Filtreleme işindeki ekstra işin yanı sıra, birçok dergi bu tür çöpleri yayınlıyor" dedi.

Yayınlara karışan çöp içerik yalnızca editörlerin sabrını zorlamıyor; üniversitelerde yerleşik değerlendirme modelini de sınıyor. Şu anda birçok akademik kurum, araştırmacıların başarısını büyük ölçüde yayınladıkları makale sayısıyla ölçüyor. Ancak makine çağında ham yayın sayıları eski anlamını yitiriyor. Bu yeni ortamda değerlendirme kriterlerinin acilen gözden geçirilmesi gerekiyor.

Bir beşeri bilimler araştırmacısı olarak Eenmaa, sorunun giderek daha grotesk hale gelmesini memnuniyetle karşılıyor çünkü bu durum köklü bir soruna dikkat çekiyor. Eenmaa, "Yayın sayısı artıyor ama bu artık kimsenin bilimsel kalibresini göstermiyor ya da araştırmacıların karşılaştırılmasına olanak vermiyor. Estonya'da niceleme eğilimini güçlü bir şekilde benimsedik ve araştırma değerlendirme sistemimiz buna dayanıyor. Yapay zeka sorunu daha da netleştiriyor: Bir araştırmacının kalitesini nasıl değerlendireceğimizi acilen düşünmemiz gerekiyor" şeklinde konuştu. Bazı yabancı üniversiteler, örneğin bir araştırmacının en iyi beş makalesinin içeriğini değerlendiriyor.

Baskı, genç araştırmacıları otomasyona itiyor

Mevcut değerlendirme modelinin sürekli yeni sonuç talep etmesi, kariyerinin başındaki araştırmacıları çılgın bir tempoda çalışmaya zorluyor. Bu nedenle birçoğunun kariyerlerini ilerletmek için otomatik yardımcılara yönelmesi şaşırtıcı değil. TalTech doktora öğrencisi ve genç araştırmacı Uku Sildoja, "Doktora öğrencisi arkadaşlar arasında araştırma hacminin ne kadar arttığını görebilirsiniz: İlk yıllarında altı bilimsel makale üretiyor ve üç konferansa katılıyorlar, oysa geçmişte tek bir makale üretmek bir ila iki yıl alıyordu. Bu inanılmaz hızlı ama otomatik pilotta çok fazla çalışmak tehlikeli ve bir noktada bir şeyler patlayacak" dedi.

Akademik yarış, araştırmacıları köşeleri kesmeye teşvik edebilir. Yüksek baskı altında etik kurallar genellikle ikincil bir formalite haline gelebiliyor. TalTech Thomas Johann Seebeck Elektronik Bölümü direktörü Alar Kuusik, "Yapay zeka süreçleri hızlandırıyor ve rekabetçi kalabilmek için düşünmeye vaktimiz yok; kereste fabrikasının tahta üretmesi gibi makale üretmek zorundayız. Bunu yaparken etik konuları arka plana itebiliriz, ancak bu, dünyaya geri koyamayacağınız bir yapay zeka ajanını serbest bırakmakla eşdeğerdir" uyarısında bulundu.

Panelde, bu riskleri azaltmak için bilim topluluğunda yeni bir liderlik türüne ihtiyaç duyulduğu kaydedildi. Araştırmacıların yalnızca kendi alanlarını değil, aynı zamanda mevzuatı ve etik sınırları da iyice bilmeleri bekleniyor. Bu yeni sorumluluklar birçok araştırmacının rolü konusunda belirsizlik yaşamasına neden oluyor.

Etkili bir şekilde araştırmacılar, tüm araştırma sürecinin sorumluluğunu üstlenmek zorunda. Eenmaa, "Soru şu: Araştırmacının rolü ne? Araştırmacı neyi ölçeceğine mi karar veriyor, yoksa tüm karar alma sürecini yönetmek zorunda mı? Araştırmacılar giderek daha fazla araştırma sürecinin yöneticisi haline geliyor; daha önce uğraşmak zorunda olmadıkları veri koruma, etik ve yasal konularda kararlar almak zorundalar. Bu, birçok araştırmacı için belirsizlik yaratıyor çünkü daha geniş bir konu yelpazesinde hızla yetkinleşmeleri gerekiyor" dedi.

Öte yandan, akıllı ajanlar bağımsız olarak büyük miktarda veriyi işleyebiliyor; bu da rutin veri işlemenin giderek makinelere bırakıldığı anlamına geliyor. Bu süre, araştırmacılara yeni ve daha karmaşık bağlantılar arama konusunda daha fazla alan sağlıyor.

Ancak insan rolünün azaltılması ciddi riskler taşıyor çünkü makinelerin ahlaki sorumluluk anlayışı yok. Sildoja, otomasyonun gizli tehlikelerine dikkat çekti: "Bu çift ucu keskin bir kılıç: Yapay zeka işleri hızlandırabilir ve bir kişinin tüm bir araştırma grubunun işini yapmasına olanak tanıyabilir, ancak diğer yandan 10 kat daha fazla saçmalık üretmeyi de mümkün kılar. Eleştirel bir şekilde nabzı tutmaz ve ajanların ne yaptığını kontrol etmezseniz, çarpıcı örneklerle karşılaşabilirsiniz - örneğin, yapay zeka analiz komut dosyalarında sonuçları kendi başına ayarlamaya başlayabilir."

Makineler denetimsiz bırakılırsa bilim hızla güvenilmez hale gelebilir. Araştırmacılar, yapay zekanın sağladığı çalışma saatlerini araştırmalarının öz kalitesini artırmak için kullanmalıdır. Sildoja, "Sonsuz miktarda veri olabilir, ancak sonuçta neyin önemli olduğuna, neden önemli olduğuna ve nasıl kullanılacağına birinin karar vermesi gerekir. Yapay zeka, araştırmacıların zamanlarıyla önemli ölçüde daha fazlasını başarmasını sağlıyor, ancak tembelleşmemek veya daha az çalışmak için yapay zekanın angaryayı yapmasına izin vermemek önemli. Bunun yerine, aynı çaba daha iddialı projeleri takip etmek için kullanılmalıdır" dedi.

Bu nedenle her uzman, alanının toplumsal boyutunu tanımalı ve sonuçların sorumluluğunu üstlenmelidir. Gelecekteki projeler üzerinde çalışan araştırma ekipleri, sınırları bağımsız olarak belirlemeyi öğrenmelidir. Eenmaa, "Etik hakkında ayrıca bir filozofa veya avukata başvurmadan konuşabilmeyi hayal ediyorum; sorumluluk her araştırmacının işinin doğal bir parçası olmalı. Hesap verebilirlik mekanizması daha iyi olmalı. Etikçiler ve avukatlar her zaman başka bir alanın bilimsel özünü anlamaz ve onlara danışmanlık yapmak onlar için ikincil bir faaliyettir" dedi.

Panel, Estonya Araştırma Konseyi (ETAg) tarafından düzenlendi.