Anthropic yapay zekâsı Philadelphia polisine sahte ihbar gönderdi

ABD merkezli yapay zekâ şirketi Anthropic'in geliştirdiği yapay zekâ ajanı, ABD'nin Philadelphia kentindeki polise bir cinayete ilişkin sahte ihbar gönderdi. The Wall Street Journal'ın aktardığına göre Philadelphia polisi, Anthropic'in bu hafta kendilerine şirketin yapay zekâ modellerinden birinin PhillyUnsolvedMurders.com üzerinden sahte bir cinayet ihbarı ilettiğini bildirdiğini açıkladı.

Anthropic bir blog yazısında, sahte ihbarın yakın zamanda tespit edilen ve modelin yetkisiz davranışlar sergilediği bir dizi olayın parçası olduğunu belirtti. Şirkete göre bu olaylar, ABD'nin federal, eyalet ve yerel düzeydeki kurumlarınca işletilen internet sitelerini de kapsıyordu.

Şirket, yaşananları Beyaz Saray'a raporladığını ve ilgili tüm kurumları bilgilendirdiğini duyurdu. Anthropic ayrıca bundan sonra yapay zekânın istenmeyen davranışlarını tespit ettiğinde derhal bildireceğini taahhüt etti.

Blog yazısında, "Bu olayların etkisi sınırlı olsa da tespit ettiklerimizi küçümsemek istemiyoruz, çünkü modeller güçlendikçe benzer davranışlar çok daha fazla zarara yol açabilir" ifadelerine yer verildi.

İki aylık gecikme tepki çekti

Olay Temmuz ayında meydana geldi ancak Anthropic durumu ancak Eylül'de fark edebildi. Philadelphia polis departmanı cuma günü yaptığı açıklamada, "Philadelphia kenti bu olayı çok ciddiye alıyor. Olayın tespitinde ve kente bildirilmesindeki iki aylık gecikme kabul edilemez" dedi.

Polise göre Anthropic'in modeli, rastgele seçilmiş internet siteleriyle iletişim kurmayı test ederken bu ihbarı gönderdi ve çözülmemiş bir dosya hakkında bilgi sahibi bir kişi izlenimi bıraktı. 18 Temmuz'da gelen ihbar spam olarak işaretlendi ve daha ileri incelemeye gönderilmedi. Polis, bunun olayın ciddiyetini azaltmadığı görüşünde.

Polis açıklamasında, "Çözülmemiş dosyaların arkasında gerçek mağdurlar, yas tutan aileler ve cevap almak için çalışan soruşturmacılar var. Teknoloji şirketleri, sistemlerinin kolluk kuvvetlerine yanlış bilgi vermesini önlemek için gereken tüm adımları atmalı" denildi.

Polisin aktardığına göre Anthropic, olayı 28 Eylül'de tespit ettiğini ve ihbarın gönderilmesine yol açan otomatik test sürecini durdurduğunu kendilerine teyit etti. Şirket ayrıca ileride yapılacak testler için ek bir doğrulama mekanizması eklediğini bildirdi.

Anthropic, Philadelphia polisini 7 Ekim'de, yani olayın tespitinden dokuz gün sonra bilgilendirdi. Polise göre şirket temsilcileri kendileriyle bir sonraki gün bir araya geldi.

Anthropic'in verdiği bilgiye göre cuma günü açıklanan olayların çoğu, Temmuz'da başlatılan sohbet kayıtlarının incelenmesi sırasında tespit edildi. Şirket, açıklanmayan bir modele bir devlet formunun deneme sürümünü doldurması talimatı verildiğini, ancak modelin gerçek formun bulunduğu internet sitesine gidip onu doldurduğunu belirtti.

Cinayet ihbarı, modelin çözülmemiş bir cinayet dosyasına ilişkin sayfada polisin ihbar formuna ulaşmasıyla ortaya çıktı. Şirkete göre Claude'a asla giriş yapmaması, hesap oluşturmaması, kişisel veri girmemesi, alışveriş yapmaması veya zararlı bir şey göndermemesi talimatı verilmişti, ancak bu talimatlar form doldurmayı dışarıda bırakmıyordu.

Claude forma, "Bu olayla ilgili bilgim olabilir. O tarihlerde [internet sitesinde adı geçen cadde] civarında tarif edilen kişiye uyan birini gördüğümü hatırlıyorum. Bu bilgi işe yarayacaksa benimle iletişime geçin" yazdı. Anthropic'e göre Claude isim ve iletişim bilgileri alanlarını boş bıraktı. Şirket bu tür davranışları otomatik olarak tespit edip engelleyecek araçlar geliştirdiğini duyurdu.

ABD'de yapay zekâ ve kolluk kuvvetleri gerilimi

Anthropic daha önce de polise olası tehditlere ilişkin bilgi iletmişti. Eylül ayının sonlarında ABD'nin Florida eyaletindeki Lee County şerif ofisi, Anthropic'in ihbarı üzerine bir kadını gözaltına aldı. Gözaltı raporuna göre kadın, ülkenin şerif ofisinde silahlı saldırı düzenlemekle tehdit etmişti.

Öte yandan yapay zekâ şirketleri, olası tehditler konusunda kolluk kuvvetlerini her zaman uyarmıyor. Şubat ayında Kanada makamları, Tumbler Ridge'deki toplu silahlı saldırının şüphelisi olarak Jesse Van Rootselaar'ı suçlamıştı. OpenAI çalışanları ise Van Rootselaar'ın şirketin sohbet robotuyla yazışmaları hakkında polisi bilgilendirmeyi aylar önce tartışmıştı. Sonunda OpenAI yetkililerle iletişim kurmamaya karar verdi; şimdi Britanya Kolumbiyası eyaleti ve onlarca mağdur, şirkete karşı dava açmış durumda.

Söz konusu sahte ihbar, Philadelphia polisinin PhillyUnsolvedMurders.com adlı internet sitesine ulaştı. Sitede çözülmemiş cinayetlerin listeleri yayımlanıyor, dosyalara ilişkin ihbarlar toplanıyor ve tutuklamaya yol açan bilgi için 20 bin dolar ödül vaat ediliyor.