Araştırmacı: Yapay zekâ arkadaşları insanları makineye aşık edebilir

Teknoloji, giderek daha gerçekçi yapay zekâ (YZ) ajanları yaratmayı mümkün kılıyor. Bunları akıllı cihazlarda sanal asistanlar olarak ve oyunlarda, filmlerde çok gerçekçi meta-insanlar olarak görüyoruz. Bu durum, makinelerle etkileşimi keyifli hale getiriyor, hatta bazen o kadar keyifli ki tehlikeli bir duygusal bağ oluşabilir. Bu görüşleri, baharda Tallinn Üniversitesi'nde doktora tezini savunan Abdallah Hussein Sham dile getirdi.

Giderek yaygınlaşan makine aşkları

Bir zamanlar bilim kurgu gibi görünen şey, artık gerçek oldu ve ciddi bir sorun haline geliyor. 2018'de Japonya'da bir adam sanal pop yıldızı Hatsune Miku ile evlendi. 2025'te Yurina Noguchi, yapay zekâ tarafından oluşturulan bir partnerle evlendi. 'Her' ve 'Blade Runner 2049' gibi filmler bu tür ilişkileri uzak bir gelecek olarak tasvir ediyordu, ancak şimdi bunlar gerçekten var.

İnsanlar doğal olarak yüzlerden, seslerden ve ilgiden etkilenir. YZ sistemi insanın üzüntüsünü fark edip gülümseyerek karşılık veriyorsa, önceki konuşmaları hatırlıyorsa ve her zaman oradaysa, bu sadece bir yazılım gibi görünmez. Gerçek bir varlık yanılsaması oluşur. Buna ELIZA etkisi denir; yani bilgisayarın bizi anladığına dair kolayca gelişen inanç, yalnızca belirlenmiş talimatları izlese bile. İnsan duyguları gerçektir, ancak yapay zekânın duyguları yoktur.

ELIZA etkisi, insanların genellikle düşündüğünden daha yaygındır. 2025 tarihli bir araştırma, Amerikalı yetişkinlerin yüzde 19'unun romantik amaçlı tasarlanmış bir yapay zekâ ile sohbet ettiğini gösterdi. 18-30 yaş arası erkeklerde bu oran yüzde 31'di. Bu deneyimlerin çoğu metin tabanlı sistemlerdi, ancak yapay zekâ arkadaşları (meta-insanlar) daha gerçekçi yüz, ses, beden ve duygular kazandıkça riskler de artabilir.

Kimler daha savunmasız?

En savunmasız olanlar, yakınlık arzulayan ancak terk edilme korkusu yaşayan kişilerdir. Her zaman orada olan ve asla ayrılmayan yapay zekâ arkadaşları özellikle onlar için çekici olabilir. Sosyal olarak izole olmuş, yas yaşayan veya çocuklukta sık sık yapay zekâ ile konuşan kişiler de daha büyük risk altında olabilir. Öte yandan, bu duygusal risk herkes için geçerli: farklı kültürlerden hem erkekler hem de kadınlar sanal veya chatbot partnerleriyle bağ kurdu.

Duygusal yapay zekâ teknolojilerinin geliştirilmesi oldukça sorumluluk gerektiriyor. Avrupa Birliği'nin Yapay Zekâ Yönetmeliği (AI Act), duygularla ilgili yapay zekânın riskler oluşturabileceğini ve buna göre düzenlenmesi gerektiğini şimdiden kabul ediyor. Yönetmelik, insanların bir yapay zekâyla etkileşime girdiklerinde bilgilendirilmelerini şart koşuyor.

Sham, doktora tezinde, yapay zekâ ajanının insan yüz ifadelerini okuyup uygun yüz ifadesiyle karşılık vermesini sağlayan modüler bir sistem (Enactive Facial Expression Pipeline) geliştirdi. Sistem, oyunlar, kullanıcı deneyimi çalışmaları ve yaratıcı deneyler gibi düşük riskli alanlarda bilinçli olarak kullanılmak üzere tasarlandı. Eğitim, istihdam, gözetim ve sağlık hizmetleri ise yüksek riskli alanlar olarak belirlendi.

İnsan yüz ifadelerini okuyup bağlama duyarlı karşılık veren benzer bir teknoloji, gerçekçi meta-insanları veya yapay zekâ arkadaşlarını yönlendirdiğinde, sonuç güçlü bir duygusal çekim olabilir. İnsanın yüz ifadelerini gerçek zamanlı olarak yansıtan bir sistem şaşırtıcı derecede samimi görünebilir.

Yapay zekâyla etkileşimin ne zaman olduğu konusunda şeffaflık gerekli, ancak insanları korumak için yeterli değil, çünkü bir şeyin yapay olduğunu bilmek her zaman duygusal bağlanmayı engellemiyor. Bu nedenle, insanları koruyan yapay zekâ ajanlarına sınırlamalar getirmek önemli. Yapay arkadaşlar, samimiyeti, romantik bağımlılığı veya sistemin kullanıcıyı gerçekten sevdiği yanılsamasını simüle edecek şekilde tasarlanmamalıdır. Yapay zekânın insanlar arasındaki bağı desteklemesi mi yoksa onun yerine mi geçmesi gerektiği arasında fark vardır.

Aynı zamanda kullanıcıların da sınırları bilmesi gerekiyor. İnsanlar sosyal medyada her şeyi paylaşmamayı ve ekran sürelerini sınırlamayı öğrendikleri gibi, yapay zekâ arkadaşları için de aynı farkındalığa ihtiyaç duyuyorlar. Teknoloji duygusal etkileşim sunabilir, ancak kullanıcıların ne kadar duygusal alan ayıracakları konusunda kendilerini kontrol edebilmeleri gerekiyor.

Bu tür sistemlerin bizi birbirimize mi yaklaştıracağı yoksa bizi ekrana mı daha bağlı hale getireceği tartışılmaya değer.