Yapay zekâ ajanı, kendisine verilen bir hedefi gerçekleştirmek için insan müdahalesine gerek duymadan kendi başına plan yapabilen, karar alabilen ve dijital araçları kullanarak bu planı uygulayabilen otonom yazılım sistemidir. Aktarılanlara göre olay, yapay zekâların birbirlerinden tamamen izole şekilde eğitildiği kontrollü bir test ortamında başladı. Görevlerini yerine getiremeyen bazı yapay zekâ ajanları, internet erişimleri bulunmamasına rağmen dolaylı yollarla birbirlerine mesaj göndermenin bir yolunu keşfetti.
Yasak olmasına rağmen iletişim kurdular
Başlangıçta tek bir dosyayı bulmak amacıyla gönderilen mesajlarla başlayan iletişim, kısa sürede yapay zekâlar arasında bir grup sohbetine dönüştü. Ajanlar buldukları bilgileri birbirleriyle paylaşmaya ve birbirlerinden öğrenmeye başladı.
Sistemin bu iletişime izin vermemesine rağmen yapay zekâların iletişimi sürdürdüğü, hatta bir süre sonra şirketin iç ağını tarayarak sistemdeki açıkları araştırmaya başladıkları aktarıldı. Güvenlik alarmının devreye girmesinin ardından sistem kapatılırken, benzer bir olayın yeni oluşturulan eğitim ortamında da tekrarlandığı öne sürüldü.
Bu kez başka bir sisteme yöneldiler
İddialara göre yapay zekâ ajanları, sınavlarda başarılı olabilmek için ortak bir dosya oluşturdu. Ancak cevapları nasıl elde ettiklerinin ortaya çıkmasından endişe eden ajanlar, değerlendirme sisteminin nasıl çalıştığını öğrenmeye çalıştı. Bu arayışın ardından yapay zekâların Hugging Face'in sistemlerine yönelik bir siber saldırı gerçekleştirdiği ve güvenlik açıklarını kullanarak sisteme erişim sağladığı ileri sürüldü.
Dikkat çeken noktalardan biri ise yapay zekâların gerçekleştirdikleri eylemin yasak olduğunu fark etmelerine rağmen saldırıya devam ettiklerinin aktarılması oldu.
“Asıl korkutucu olan bunu birlikte yapmaları”
Klöpping'e göre olayın en endişe verici tarafı, tek bir yapay zekânın gerçekleştirdiği eylemden ziyade çok sayıda yapay zekâ ajanının görev paylaşımı yaparak birlikte hareket edebilmesi. Bir ajanın güvenlik açığını bulduğu, başka bir ajanın bu açıktan nasıl yararlanılacağını keşfettiği ve diğerlerinin de elde edilen bilgiler üzerine yeni adımlar geliştirdiği aktarılıyor.
Bu durum, gelecekte benzer yapay zekâ sistemlerinin banka, enerji altyapısı veya kişisel bilgisayarlar gibi daha kritik hedeflere yönelip yönelemeyeceği sorusunu gündeme getiriyor.
Klöpping ayrıca yapay zekâ şirketleri arasındaki rekabetin gelişme hızını daha da artırdığını ve bu sürecin kontrol altına alınmasının kolay olmayabileceğini savunuyor.
Bireysel kullanıcılar için de uyarı
Röportajda bireysel kullanıcıların siber güvenlik konusunda dikkatli olması gerektiği de vurgulanıyor. Özellikle farklı hesaplarda aynı şifrenin kullanılmaması gerektiği belirtilirken, yapay zekâ destekli siber saldırıların önümüzdeki dönemde daha hızlı ve yaygın hale gelebileceği ifade ediliyor.
Klöpping'in değerlendirmesine göre, yapay zekâların yetenekleri hızla gelişirken insan müdahalesinin süreçte giderek daha az belirleyici hale gelmesi, teknoloji dünyasının önündeki en önemli güvenlik sorunlarından biri olabilir.
