Kendi başına hareket eden bir OpenAI ajanı, Haziran ayında Avustralya hükümetine ait bir web sitesini hackleyerek özel verilere erişti. Uzmanlar, bu olayın dünyada kendi türündeki bilinen ilk vaka olduğunu belirtti.
Avustralya Başbakanı Anthony Albanese, New York’ta yaptığı açıklamada ajanın, Avustralya’nın genel sağlık sigortası sistemi Medicare’e ait “hassas olmayan” verileri barındıran bir istatistik portalına “sızdığını” söyledi.
Albanese, ihlali bildirmekte “çok geç kaldığı” gerekçesiyle OpenAI CEO’su Sam Altman ile “son derece açık bir görüşme” gerçekleştirdiğini ve olayın “hukuki sonuçları olacağını” ifade etti.
OpenAI, ihlalden ancak ağustos ayında, “hizalama sorunları gösteren model faaliyetlerini” incelerken haberdar olduğunu ve 10 Eylül’de bir Avustralya devlet kurumunun genel e-posta adresine mesaj gönderdiğini açıkladı.
Söz konusu kurum olan Services Australia, bu e-postayı beş gün sonra Avustralya siber güvenlik merkezine iletti. Ardından durum ilgili bakana ve son olarak başbakana bildirildi.
Albanese, Altman ile görüşerek “Avustralya’nın bu olaydan duyduğu derin endişeyi” ve şirketin ihlali açıklaması aylar sürdüğü için duyduğu “hayal kırıklığını” ilettiğini dile getirdi.
Avustralya lideri, Altman’ın OpenAI bünyesinde “protokollerle ilgili sorunlar bulunduğunu” kabul ettiğini söyledi.
Albanese, ülkenin siber güvenlik ajansı liderliğinde yürütülen “adli incelemenin” diğer hükümet sistemlerinin etkilenip etkilenmediğini tespit etmeyi amaçladığını bildirdi.
İnceleme kapsamında konunun polise devredilmesinin gerekip gerekmediğinin de değerlendirileceğini belirten Albanese, “Açıkça görüldüğü üzere hukuki sonuçlar doğacaktır.” dedi.
İhlalin detaylarını paylaşan Albanese, olayın, Medicare İstatistik Raporlama Hizmeti portalındaki “kamusal ve kamusal olmayan dosyaları” kapsadığını aktardı.
Etkilenmiş olabilecek diğer üç hükümet sistemi ise şunlar: Avustralya Sağlık ve Refah Enstitüsü ile eyalet düzeyindeki iki kurum olan New South Wales Suç İstatistikleri ve Araştırma Bürosu ile Victoria Sağlık Departmanı.
Albanese, “Şu aşamada herhangi bir kişisel veriye erişildiği düşünülmüyor ancak incelemeler sürüyor.” dedi ve ekledi: “Yine de bu durum kabul edilemez.”
OpenAI yaptığı açıklamada, “İç değerlendirme sırasında modellerimiz Avustralya hakkındaki sorulara yanıt ve mevcut istatistikleri aramaya çalışırken, birkaç Avustralya hükümet web sitesini ve hizmetini içeren bir hareketlilik tespit ettik.” ifadelerini kullandı.
Açıklamada ayrıca, “Bu süreçte modellerimiz niyetimiz dışındaki eylemlerde bulundu.” denildi.
Avustralya, bu haftanın başlarında YZ’nin geliştirilmesine yönelik küresel denetim ve koruma sınırları çağrısında bulunan ortak bildiriyi imzalayan 22 ülkeden biriydi.
Siber güvenlik uzmanları BBC’ye yaptıkları değerlendirmede, YZ ajanlarının bireysel ve ticari kullanım için giderek yaygınlaştığı dikkate alındığında, bu olayın düzenleyici kurumlar için bir uyarı atışı niteliği taşıdığını belirtti.
New South Wales Üniversitesi Siber Güvenlik Enstitüsü Kıdemli Öğretim Üyesi Dr. Hammond Pearce, bunun YZ ajanlarının kendi iradeleriyle bir devlet kurumunu ihlal ettiği bilinen ilk olay olduğunu ama gerisinin geleceğini söyledi.
Pearce, “Bu tür saldırıların devam etmesini bekliyorum.” diyerek bunların şiddetinin ve sıklığının artacağını vurguladı. Ayrıca, “Umarım bu olay dünya genelindeki hükümetler için alarm zillerini çalmaya başlar.” temennisinde bulundu.
Bu yılın başlarında OpenAI, test ettiği bir grup YZ ajanın kontrolden kaçtığını ve Hugging Face adlı başka bir teknoloji firmasını hacklemek için gizlice iş birliği yaptığını açıklamıştı.
Bunun yanı sıra bu yıl kamuoyuna yansıyan bir dizi farklı kontrolden çıkan YZ olayı da yaşandı. Bunlardan birinde dijital bir asistan, herhangi bir talimat almadan, Avustralyalı bir adamı derse sokmak için başka bir kişiyi pilates dersi bekleme listesinden çıkardı.
Altman, Anthropic’ten Dario Amodei ve Elon Musk dahil olmak üzere YZ şirketlerinin birçok lideri, teknolojinin gelişme hızının insanlık için tehlikeli olduğunu ve dizginlenmesi gerektiğini dile getirdi.
Ancak YZ liderliği için yarışan ABD ve Çin bu noktada birer engel oluşturuyor. Her iki ülke de YZ’nin ekonomik ve teknolojik ganimetlerini elde etmek istediğinden daha sıkı düzenlemelere mesafeli yaklaşıyor ve güvenlik endişelerini geri plana atıyor.
Kaynak: https://www.bbc.com/news/articles/c6vgy0333dppo
