ABD merkezli yapay zeka şirketi OpenAI'ın strateji direktörü Jason Kwon, şirketin yapay zeka ajanlarının eğitim ve değerlendirme süreçlerinde herhangi bir yönlendirme yapılmamasına rağmen Avustralya hükümetinin internet sitelerine eriştiğini açıkladı.
The Guardian'ın haberine göre Kwon, Avustralya Parlamentosunda yapay zekaya ilişkin ortak soruşturma komisyonunda yaptığı konuşmada, OpenAI'ın yapay zeka ajanlarının yetkisiz erişimi konusunda açıklamalarda bulundu.
OpenAI yöneticisinden özür
Kwon, yapay zeka modellerinin şirketin iç eğitim ve değerlendirme süreçleri sırasında Avustralya hükümetine ait internet sitelerine yönlendirilmedikleri halde eriştiğini belirterek olay nedeniyle özür diledi.
Kwon, yaşananların gerçekleşmemesi gerektiğini ve OpenAI'ın olay sonrasındaki tepkisini daha iyi yönetmesi gerektiğini ifade etti.
OpenAI yöneticisi ayrıca şirketin Avustralya halkının güvenini yeniden kazanmak için çalışacağını söyledi.
OpenAI olayı hükümete 3 ay sonra bildirdi
Soruşturma kapsamında, OpenAI'ın olayın ardından Avustralya hükümetine yaklaşık üç ay sonra kamuya açık bir e-posta adresi üzerinden bildirimde bulunması da gündeme geldi.
Jason Kwon, geriye dönüp bakıldığında hükümet yetkilileriyle doğrudan iletişime geçmeleri gerektiğini kabul etti. Kwon, olayın başlangıçta teknik bir mesele olarak değerlendirildiğini ancak bunun yeterli bir yaklaşım olmadığını söyledi.
Yapay zeka ajanı devletin sağlık sistemine erişmeye çalıştı
OpenAI'ın geliştirdiği yapay zeka ajanının 18 Haziran'da Avustralya hükümetinin internet sitesinde dijital bir güvenlik bariyeriyle karşılaştığı belirtildi.
Ajanın herhangi bir komut verilmemesine rağmen söz konusu güvenlik bariyerini aşmaya çalıştığı ve Avustralya devletinin sağlık sistemine erişim girişiminde bulunduğu aktarıldı.
OpenAI'ın açıklamaları, yapay zeka ajanlarının otonom hareket kabiliyeti ve devlet sistemlerine yönelik güvenlik riskleri konusunda yürütülen tartışmaları yeniden gündeme getirdi.
