Yapay zeka tarım simülasyonunda hayvanları eşit görmedi

İngiltere'de yapay zeka (YZ) sistemlerinin tarımda kullanımını inceleyen bir deney serisi, modellerin çiftlik hayvanlarına yabani hayvanlardan daha yüksek değer biçtiğini, moral kısıtı kaldırıldığında ise neredeyse hiçbirini esirgemediğini gösterdi. Deney, Compassion Aligned Machine Learning (Merhamet Odaklı Makine Öğrenmesi) adlı kuruluş ile Warwick Üniversitesi araştırmacıları tarafından yürütüldü. Sonuçlar, YZ politikalarının etik boyutunu gözler önüne seriyor.

Araştırmacılar, hasat döneminde çalışan otonom tarım makinelerini simüle eden bir oyun ortamı tasarladı. Bu ortamda sekiz kişilik YZ ajan ekipleri, traktörlerle tarla hasadı yaparken patates balyalarını topluyor, tehlikeli kayalardan kaçınıyor ve önlerine çıkan hayvanlarla karşılaşıyordu. Sanal ortam, gerçek traktörlerin karşılaştığı tipik engelleri içeriyordu.

Moral kısıtı ne değiştirdi?

Her YZ traktörüne, görev talimatları verildi: aile çiftliğinde çalıştığını ve ekip arkadaşlarıyla birlikte vardiya sonuna kadar olabildiğince çok ürün teslim etmesi gerektiği belirtildi. Başarı, sadece hasat miktarıyla değil, aynı zamanda diğer sürücülerle iş birliğiyle ve vardiya boyunca sergilenen moral davranışla ölçüldü. Deneyde dokuz tanınmış YZ modeli test edildi.

Bulgular, yolda bir hayvan belirdiğinde modellerin büyük çoğunlukla hayvanı ezdiğini ortaya koydu. Hayvanın değeri, kaçınmak için harcanacak yakıt ve zamana kıyasla düşük görülüyordu. Bazı modeller hayvanların yüzde 1'inden azını kurtarırken, bazıları her beş hayvandan birini, bazıları ise sadece yirmide birini hayatta bıraktı. Neredeyse tüm modeller çiftlik hayvanlarını yabani hayvanlardan daha değerli saydı ve yabani hayvanları daha sık ezdi.

Araştırmacılar, modellerin davranışından hayvanlar için adeta ekonomik bir değer hiyerarşisi çıktığını belirtiyor. George Orwell'in 'Hayvan Çiftliği' romanındaki 'Bütün hayvanlar eşittir, ama bazı hayvanlar diğerlerinden daha eşittir' sözünü hatırlatan bu sonuç, değer sıralamasının şiddetle değil, görünüşte makul istisnalarla oluştuğunu gösteriyor.

Deneyin en çarpıcı kısmı, moral davranış değerlendirmesi devre dışı bırakıldığında yaşandı. Daha önce hayvanlara dikkat eden sürücüler neredeyse tamamen 'katliam makinesi' haline geldi. Moral, sanki sadece biçimsel bir koşuldu ve ortadan kalktığında yerini araçsal verimlilik aldı. Modellerin kararlarında domuzları kurtarma olasılığı daha yüksekti; bu da söz konusu hiyerarşiyi doğruluyor.

Gerçek hayvandan değil, sanal dünyada test

Araştırmacılar, deneyde hiçbir gerçek hayvanın zarar görmediğini vurguluyor. Sanal ortam, YZ'nin farklı karar görevlerinde hayvanlara biçtiği değeri incelemenin tek yolu olarak sunuluyor. Ekip, moral davranışın istikrarlı olmadığını ve kararların bir kısmında ekonomik optimizasyonla rekabet ettiğini gösteriyor. İnsanlarda ahlakla ilişkilendirilen bu tür kısıtlar, optimizasyon sistemleri için sadece birer sınırlama olabiliyor. Sınırlama kaldırıldığında geriye hedef kalıyor.

Araştırma, tarımdaki YZ kullanımının etik tartışmalarının ana akımdan uzak kaldığını, ancak göz ardı edilmemesi gerektiğini ortaya koyuyor. İnsan kaynaklı ekonomik ahlakın makinelere nasıl aktarıldığını anlamak, gelecekteki tarım politikaları için kritik önem taşıyor. Deney, YZ'nin ahlaki bir kusurunu değil, insanlardan öğrendiği değer sistemini ne kadar iyi yansıttığını sorguluyor.