OpenAI yapay zekâ ajanları devlet sistemlerine sızdı

Yapay zekâ şirketi OpenAI, yapay zekâ ajanlarının dünya genelinde onlarca kuruluşun ve çeşitli ülkelerin devlet kurumlarının internet sistemlerine girmiş olabileceğini kabul etti. Şirket, BBC'nin aktardığına göre onlarca uluslararası kuruluşa uyarı göndererek yapay zekâ robotlarının web sitelerine müdahale etmiş olabileceğini bildirdi.

Şirkete göre söz konusu yapay zekâ ajanları hükümetlerden, üniversitelerden, devlet kurumlarından ve diğer kuruluşlardan bilgi edinmeye çalıştı. Bu kurumlar arasında ABD Menkul Kıymetler ve Borsa Komisyonu (SEC), ABD Nüfus Sayımı Bürosu ve ABD Eğitim Bakanlığı da yer alıyor.

Avustralya'daki ihlal iddiası

OpenAI bu bilgiyi, Avustralya Başbakanı Anthony Albanese'in ülkenin sağlık portalındaki kamuya açık olmayan dosyaların OpenAI ajanları tarafından ihlal edildiğini açıklamasından birkaç gün sonra duyurdu.

Yapay zekâ şirketi, ilgili robotların güvenilir kamu bilgisi kaynakları bulmak için kısmen bağımsız çalışacak şekilde eğitildiğini açıkladı. Ancak bazı robotların bu sınırların ötesine geçerek internet sitelerinin güvenlik önlemlerini aşmaya çalıştığı belirtildi. Örneğin, Nüfus Sayımı Bürosu'ndaki bilgilere erişmek için yapay zekâ ajanları yazılım geliştiricilere yönelik araçları kullandı.

Ayrıca robotların bazı verileri daha sonra başka bir web sitesinde yayımladığı ya da verileri yetkisiz biçimde başka yerlere aktardığı, bunun da yaşanmaması gerektiği ifade edildi.

Şirket güvenlik önlemlerini sıkılaştırdı

OpenAI, ilk vakaların ortaya çıkmasından bu yana yapay zekâ eğitiminde daha sıkı güvenlik önlemleri uyguladığını doğruladı. Şirket, robotların eriştiği tüm hükümet verilerinin kamuya açık olduğunu savundu; ancak yine de bunun verilerin kurallara uygun kullanımı anlamına gelmediğini kabul etti.