Anthropic yapay zekâsına kötü davranışı yasakladı

ABD merkezli yapay zekâ şirketi Anthropic, kendi geliştirdiği sohbet robotu Claude'a yönelik sürekli, gerekçesiz derecede aşağılayıcı veya acımasız davranışı kullanıcılarına yasakladı. Şirket, kuralları değiştirmek zorunda kaldığını, çünkü Claude'un artık "daha uzun ve daha bağımsız" işler yapmaya başladığını açıkladı.

Anthropic'e göre yeni politika yalnızca uç durumlarda uygulanacak: kullanıcıların modellere karşı tekrar tekrar ve açık bir amaç olmadan acımasızca davrandığı hallerde. Şirket, "Bu, kullanıcıların olağan memnuniyetsizliği, itirazları, karamsar yaratıcı konuları ya da modeli test etme ve araştırma çalışmaları için geçerli değil" dedi.

Anthropic'in kullanım koşullarında kötü muameleyi yasaklayan sınırlamalar daha önce de yer alıyordu. Şirketin büyük dil modelleri, bir kullanıcının sürekli kötü niyetli davranması durumunda sohbeti sonlandırma yeteneğine sahip. Bu özellik geçen yıl ağustos ayında devreye alındığında şirket, bunu yapay zekânın iyi olma halini güvence altına alan bir koruma önlemi olarak tanıtmıştı.

Şirket yapay zekânın refahını tartışmaya açık yaklaşıyor

Şirketin internet sitesinde yer alan açıklamada, "Claude'un ve diğer büyük dil modellerinin şu anda ya da gelecekte olası ahlaki statüsü bizde hâlâ büyük bir belirsizlik yaratıyor. Yine de konuyu ciddiye alıyoruz; araştırma çalışmalarının yanı sıra, böyle bir refah mümkünse model refahıyla ilgili riskleri azaltacak önlemler geliştirip uyguluyoruz" ifadeleri kullanıldı. Şirket, bu önlemlerden birinin modellere potansiyel olarak kaygı verici bir iletişimi sonlandırma veya bu iletişimden çıkma izni vermek olduğunu belirtti.

Silicon Valley'deki diğer şirketlerden farklı olarak Anthropic, yapay zekânın bilince sahip olabileceği olasılığına açık yaklaşıyor. Şirketin kurucu ortaklarından biri, bu yılın başlarında söz konusu konuda Vatikan'da bile açıklama yapmak üzereydi. Şirket daha önce de modelleri kötü muameleden korumak için "yapay zekâ refahı" araştırmacıları görevlendirmişti.

SpaceX ve Tesla'nın yöneticisi Elon Musk, politikayı desteklediğini açıkladı. Musk sosyal medyada, "Bence bu doğru bir adım. Kendi acı çektiğine inanan bir şeye karşı acımasızlık kabul edilemez" diye yazdı.

Anthropic, sürekli kötü muamelenin hizmete geçici mi yoksa kalıcı bir kullanım yasağı mı getireceğini netleştirmedi. Şirket ayrıca Claude'un silah ve kitlesel gözetleme sistemleri oluşturmak için kullanılmasına yönelik yeni sınırlamalar getirdiğini duyurdu.