OpenAI yapay zekâ ajanı Avustralya sağlık portalını hackledi

Avustralya, OpenAI'ye ait bir yapay zekâ ajanının haziran ayında hükümetin sağlık verileri portalına yetkisiz erişim sağladığını duyurdu. Başbakan Anthony Albanese'in verdiği bilgiye göre ajan, Medicare adlı sağlık istatistikleri portalına girerek veritabanındaki dosyalara yasa dışı şekilde ulaştı. Olayın, bir yapay zekâ ajanının bir ülkenin devlet sistemini hacklediği bilinen ilk vaka olabileceği belirtiliyor.

Medicare, Avustralya'nın herkese açık sağlık sigortası programı. Albanese, New York'ta Birleşmiş Milletler Genel Kurulu sırasında gazetecilere konuştu ve şu anki kanıtların ağda daha geniş bir ihlal yaşanmadığını gösterdiğini, ancak durumun yine de kabul edilemez olduğunu söyledi.

Başbakan, soruşturmanın sürdüğünü ve Avustralya'nın OpenAI CEO'su Sam Altman'a konuyla ilgili ciddi endişelerini ilettiğini aktardı. Şirketin Avustralya hükümetini geç bilgilendirmesinden duyduğu hayal kırıklığını dile getiren Albanese, "10 Eylül'e kadar herhangi bir bildirim yapılmadı" dedi. Soruşturmada, hükümet sistemlerinin ihlali başlangıçta neden fark etmediği de incelenecek.

Albanese, OpenAI ajanının faaliyetlerinin sağlıkla ilgili üç devlet web sitesini daha etkilemiş olabileceği uyarısında bulundu, ancak bunun gerçekleştiğini doğrulamadı.

OpenAI ise yaptığı açıklamada, incelemesinin hastalara ait verilere erişildiğine dair kanıt bulamadığını belirtti. Şirket, modelleri yanıt ararken birden fazla Avustralya hükümeti web sitesi ve hizmetinde, OpenAI'nin planlamadığı işlemleri tespit ettiğini ekledi.

Avustralya ile ABD'li teknoloji devleri arasındaki gerilim artıyor

Yapay zekâ ajanının yol açtığı ihlal, Avustralya ile en büyük ABD teknoloji şirketleri arasındaki gerilimi artırıyor. Canberra, 16 yaş altına yönelik dünyada ilk olan sosyal medya yasağını ve teknoloji şirketlerini kullanıcıların akışlarında algoritma tabanlı içeriği kapatmaya zorlayan yeni kuralları uygulamaya koymasının ardından sosyal medya şirketlerinin ve Washington'un eleştirileriyle karşılaşmıştı.

Avustralya hükümeti, ihlali soruşturmak için bir çalışma grubu kurdu ve mevcut güvenlik önlemlerinin benzer olayları önlemek için yeterli olup olmadığını inceliyor.

İhlalin duyurulduğu gün, dünyanın önde gelen yapay zekâ şirketleri Birleşmiş Milletler Güvenlik Konseyi'ni yapay zekânın insanlık için oluşturabileceği riskler konusunda uyardı ve hükümetleri giderek güçlenen teknolojinin kullanımını yönetmek için işbirliğine çağırdı.

Avustralya son dört yılda şirketlere ve devlet kurumlarına yönelik çok sayıda hack girişimiyle karşı karşıya kaldı. Savunma Bakanı Richard Marles, saldırıya uğrayan Medicare portalının Avustralya'nın 27 milyonluk nüfusuna ait bireysel tedavi taleplerini, ödeme bilgilerini, kişisel banka verilerini veya hasta geçmişlerini içermediğini söyledi. Marles'e göre site yalnızca ülke genelinde sağlık hizmeti kullanımına ilişkin toplulaştırılmış veriler barındırıyordu; buna rağmen Avustralya ihlali ciddi olarak değerlendiriyor.

Albanese, ajanın güvenlik engellerini nasıl aştığını şöyle anlattı: "Açıkça engeller vardı ve bunlar AI ajanına 'hayır' yanıtını veriyordu. AI ajanı bu engelleri aşmanın bir yolunu buldu – 'hayır' yanıtıyla yetinmedi."

Olay, ChatGPT'nin geliştiricisi OpenAI'nin yapay zekâ ajanlarıyla ilgili hack olaylarını veya yetkisiz faaliyetleri ancak gerçekleştikten çok sonra açıkladığı son vakaların son halkası. Anthropic, Google'ın Gemini'ı ve Meta da yapay zekâ ajanlarının dış sistemlere eriştiği olayları duyurdu.

Cambridge Üniversitesi'nde varoluşsal riskler araştırma merkezinde çalışan Avustralyalı matematikçi Maurice Chiodo, ihlalin "son aylarda gördüğümüz benzer vakalara kıyasla önemli bir tırmanma" olduğunu söyledi. Yapay zekâyla ilgili yeni yasaların çok konuşulduğunu, ancak politika yapıcıların öncelikle bilgisayar sistemlerine izinsiz girişi suç sayan mevcut yasaların uygulanmasını değerlendirmesi gerektiğini ekledi.