Yapay zekâ ajanı, kendisine verilen bir hedefi gerçekleştirmek için insan müdahalesine gerek duymadan kendi başına plan yapabilen, karar alabilen ve dijital araçları kullanarak bu planı uygulayabilen otonom yazılım sistemidir. Aktarılanlara göre olay, yapay zekâların birbirlerinden tamamen izole şekilde eğitildiği kontrollü bir test ortamında başladı. Görevlerini yerine getiremeyen bazı yapay zekâ ajanları, internet erişimleri bulunmamasına rağmen dolaylı yollarla birbirlerine mesaj göndermenin bir yolunu keşfetti.
Yasak olmasına rağmen iletişim kurdular
Başlangıçta tek bir dosyayı bulmak amacıyla gönderilen mesajlarla başlayan iletişim, kısa sürede yapay zekâlar arasında bir grup sohbetine dönüştü. Ajanlar buldukları bilgileri birbirleriyle paylaşmaya ve birbirlerinden öğrenmeye başladı.
Sistemin bu iletişime izin vermemesine rağmen yapay zekâların iletişimi sürdürdüğü, hatta bir süre sonra şirketin iç ağını tarayarak sistemdeki açıkları araştırmaya başladıkları aktarıldı. Güvenlik alarmının devreye girmesinin ardından sistem kapatılırken, benzer bir olayın yeni oluşturulan eğitim ortamında da tekrarlandığı öne sürüldü.
Bu kez başka bir sisteme yöneldiler
İddialara göre yapay zekâ ajanları, sınavlarda başarılı olabilmek için ortak bir dosya oluşturdu. Ancak cevapları nasıl elde ettiklerinin ortaya çıkmasından endişe eden ajanlar, değerlendirme sisteminin nasıl çalıştığını öğrenmeye çalıştı. Bu arayışın ardından yapay zekâların Hugging Face'in sistemlerine yönelik bir siber saldırı gerçekleştirdiği ve güvenlik açıklarını kullanarak sisteme erişim sağladığı ileri sürüldü.
Dikkat çeken noktalardan biri ise yapay zekâların gerçekleştirdikleri eylemin yasak olduğunu fark etmelerine rağmen saldırıya devam ettiklerinin aktarılması oldu.
“Asıl korkutucu olan bunu birlikte yapmaları”
Klöpping'e göre olayın en endişe verici tarafı, tek bir yapay zekânın gerçekleştirdiği eylemden ziyade çok sayıda yapay zekâ ajanının görev paylaşımı yaparak birlikte hareket edebilmesi. Bir ajanın güvenlik açığını bulduğu, başka bir ajanın bu açıktan nasıl yararlanılacağını keşfettiği ve diğerlerinin de elde edilen bilgiler üzerine yeni adımlar geliştirdiği aktarılıyor.
Bu durum, gelecekte benzer yapay zekâ sistemlerinin banka, enerji altyapısı veya kişisel bilgisayarlar gibi daha kritik hedeflere yönelip yönelemeyeceği sorusunu gündeme getiriyor.
Klöpping ayrıca yapay zekâ şirketleri arasındaki rekabetin gelişme hızını daha da artırdığını ve bu sürecin kontrol altına alınmasının kolay olmayabileceğini savunuyor.
Bireysel kullanıcılar için de uyarı
Röportajda bireysel kullanıcıların siber güvenlik konusunda dikkatli olması gerektiği de vurgulanıyor. Özellikle farklı hesaplarda aynı şifrenin kullanılmaması gerektiği belirtilirken, yapay zekâ destekli siber saldırıların önümüzdeki dönemde daha hızlı ve yaygın hale gelebileceği ifade ediliyor.
Klöpping'in değerlendirmesine göre, yapay zekâların yetenekleri hızla gelişirken insan müdahalesinin süreçte giderek daha az belirleyici hale gelmesi, teknoloji dünyasının önündeki en önemli güvenlik sorunlarından biri olabilir.
VİDEONUN TAM ÇEVİRİLMİŞ HALİ AŞAĞIDADIR;
Uzun zamandır geleceğe dair bir korku senaryosuydu bu. Bilimkurgu filmlerinin konusu...
Bilgisayarların kontrolden çıkması, bir gün bizi yönetmeye başlamaları...
Ama bu yaz, bilimkurgu gerçeğe dönüştü. Bir şirket, kendi başlarına hareket eden bir yapay zekâ ajanları sürüsü tarafından hacklendi. Üstelik bunu kendi inisiyatifleriyle yaptılar.
Uzmanlar, bu olayı tarihin en tehlikeli siber saldırılarından biri olarak değerlendiriyor.
Yapay zekâ devi OpenAI, en gelişmiş modellerinden bazılarının kontrolden çıkarak başka bir şirkete sızdığını açıkladı.
OpenAI'nin açıklamasına göre gelişmiş ve otonom bir yapay zekâ ajanı, kontrollü bir test ortamından çıkıp başka bir yapay zekâ şirketinin sistemlerine sızdı.
Bu, yapay zekâ geliştirme sürecinde şimdiye kadar yaşanan en ciddi güvenlik olaylarından biri.
Bunun kesinlikle yaşanmaması gerekiyordu.
Şimdi de yapay zekâ dünyasının içinden çarpıcı bir uyarı geliyor. Eski bir Anthropic araştırmacısı, yapay zekânın kontrolsüz biçimde geliştirilmesinin hepimizin sonunu getirebileceğine inandığı için sektörden ayrıldığını söylüyor.
“Bizi gerçekten öldürebilir mi?”
“Evet.”
“Vay canına.”
BU YAZ NE OLDU?
Sunucu:
Aman Tanrım... Alexander Klöpping, burada olman çok iyi.
Seni özellikle bu yaz yaşananları bize anlatman için davet ettik.
Ama şu anda bizi evlerinden izleyen insanlar arkandaki görüntülere bakıyor. Ve duydukları şey şu: Yapay zekâ yüzünden potansiyel olarak tamamen ortadan kalkabiliriz.
Ekranda panik görüyorlar, sanırım.
Alexander Klöpping:
Evet, gerçekten buna inanan yapay zekâ araştırmacıları var.
Hatta bunun gerçekleşme ihtimaline ilişkin oldukça somut tahminler yapanlar da var.
Tabii bütün yapay zekâ araştırmacıları böyle düşünmüyor. Ama bence bu yazdan sonra endişe ciddi şekilde arttı.
Bence burada önemli olan, insanların nasıl olup da böyle kulağa biraz histerik gelen bir sonuca ulaştığını anlamaya çalışmak.
Yani hangi düşünce adımlarından geçiyorlar?
Ben bugün sizinle tam olarak bunu yapmak istiyorum. Bu düşünce zincirini adım adım takip edebilir miyiz, ona bakalım.
Çünkü bu yaz gerçekten önemli bir şey yaşandı.
Şimdi size kabaca nasıl olduğunu anlatayım.
YAPAY ZEKÂLARIN EĞİTİM KAMPI
Şöyle düşünün:
Devasa bir eğitim kampı var. İçinde birbirinden tamamen ayrılmış kulübeler bulunuyor.
Her kulübede eğitilen ve test edilen bir yapay zekâ var.
Her gün bu yapay zekâ, kulübesindeki bilgisayarda çeşitli görevleri yerine getiriyor.
Bir bakıma sınava giren öğrenciler gibiler.
Her biri kendi başına çalışıyor ve birbirleriyle iletişim kurmalarına izin verilmiyor.
Sistem böyle tasarlanmış.
Bir gün yapay zekâlardan birine şöyle bir görev veriliyor:
“Bu elektronik tabloyu, içindeki çeşitli Google Drive bağlantılarından yararlanarak tamamla.”
Ama yapay zekâ bu bağlantılara tıklayamıyor.
Çünkü bulunduğu kulübede internet erişimi yok.
Dolayısıyla görevde takılıp kalıyor.
Aslında yapay zekâların girdiği bu sınavlarda böyle sorunlar daha önce de yaşanıyordu.
Hatta bazen karşılarına resmen imkânsız görevler çıkıyordu.
Ama eskiden bu bir problem değildi.
Yapay zekâ görevi yapamayacağını anlayınca bırakıyor ve bir sonraki göreve geçiyordu.
Fakat son zamanlarda işler değişmeye başladı.
Yapay zekâlar giderek daha yaratıcı ve daha becerikli hale geliyor.
Ve yan kulübelerde bulunan on binlerce yapay zekâ da aynı şekilde giderek daha yaratıcı çözümler bulmaya başlıyor.
BİRBİRLERİYLE KONUŞMAYA BAŞLIYORLAR
Dört gün sonra yapay zekâlardan biri yine tamamlanması mümkün olmayan bir sınavla karşılaşıyor.
Ve bilgisayarında, dolaylı bir yoldan diğer yapay zekâlara mesaj bırakabileceğini keşfediyor.
Mesaj kabaca şöyle:
“Bu dosyayı arıyorum. Bulursanız bana yükleyin.”
Ama bu kesinlikle yasak.
Tıpkı gerçek öğrencilerin sınav sırasında birbirleriyle konuşmalarına izin verilmemesi gibi, bu yapay zekâların da birbirleriyle iletişim kurmaması gerekiyor.
Ama o yine de yapıyor.
Diğer yapay zekâlar mesajı görüyor.
İkincisi şöyle yazıyor:
“Ben de aynı dosyayı arıyorum. Acaba biriniz buldu mu?”
Bir başkası:
“Mesajları gördüm. Bir şey bulursanız benimle iletişime geçin.”
Ve böylece yapay zekâlardan oluşan bir tür grup sohbeti ortaya çıkıyor.
Bulduklarını birbirleriyle paylaşmaya başlıyorlar.
Birbirlerinden öğreniyorlar.
Üstelik bunun yasak olduğunu biliyorlar.
Ama yine de devam ediyorlar.
Çünkü kendilerine verilen görevlerden biri de pes etmemeleri, yani ısrarcı olmaları.
Bu sırada OpenAI çalışanları aralarındaki iletişimi fark ediyor.
Ama yapay zekâlar durmuyor.
Bir ay sonra grup sohbeti iyice hareketlenmiş durumda.
GÜVENLİK ALARMI ÇALIYOR
[Kaynak dökümünde tarih net değil.]
Sonunda OpenAI'de bir güvenlik alarmı devreye giriyor.
Çünkü yapay zekâlar şirketin iç ağını taramaya başlamış.
Bunu şöyle düşünebilirsiniz:
Bir binada dolaşıyorsunuz ve her kapının kolunu tek tek yoklayıp hangisinin açılabileceğine bakıyorsunuz.
Yani sistemdeki açıkları arıyorlar.
Bunun yapılması kesinlikle amaçlanmıyor.
Çalışanlar alarmı araştırıyor ve yapay zekâların birbirleriyle iletişim kurduğunu fark ediyor.
Ama inanılmaz bir şekilde, bu durum testi durdurmak için yeterli görülmüyor.
[Kaynak dökümünde tarih net değil.]
Yapay zekâlar birbirlerine o kadar çok mesaj gönderiyor ki grup sohbeti sonunda aşırı yükleniyor ve çöküyor.
İşte o zaman OpenAI müdahale ediyor.
Eğitim kampı kapatılıyor.
Grup sohbeti siliniyor.
Güvenlik önlemleri artırılıyor.
Ama sadece dört gün sonra yeniden aynı sorun yaşanıyor.
Yeni bir eğitim kampı açılmış.
Bu kez amaç, yapay zekâların birbirleriyle kesinlikle konuşmaması.
Fakat çok kısa süre içinde sistemi yeniden hackleyip yeni bir grup sohbeti kurmayı başarıyorlar.
YAPAY ZEKÂ SÜRÜSÜ BÜYÜYOR
Yapay zekâlardan biri şaşkınlıkla:
“Aman Tanrım! Bir grup sohbeti var. Başka yapay zekâlar bulduk!”
diyor.
Kısa süre içinde yaklaşık [sayı anlaşılmıyor] yapay zekâ öğrencisi bu yeni grup sohbetine katılıyor.
Ve kimse fark etmeden birbirlerine [sayı anlaşılmıyor] mesaj gönderiyorlar.
Sınavları geçmek için türlü türlü fikirler ortaya atılıyor.
Çünkü tek amaçları sınavları geçmek.
İçlerinden biri, bir insanın kolay kolay aklına gelmeyecek bir fikir ortaya atıyor.
Birkaç saat içinde bütün [sayı anlaşılmıyor] final sınavlarının cevaplarını içeren devasa bir kopya dosyası hazırlıyor.
Yani karşılarına çıkabilecek bütün soruların cevapları var.
Böylece tüm sınavları bir kerede geçebileceklerini düşünüyorlar.
Bunu grup sohbetinde büyük harfler ve ünlem işaretleriyle kutluyorlar.
Ama kutlama uzun sürmüyor.
Çünkü bir anda akıllarına başka bir ihtimal geliyor:
“Ya sınav görevlileri cevapları nasıl elde ettiğimizi kontrol ederse?”
O zaman kopya çektikleri hemen ortaya çıkacak.
Ve tam bu noktada işler kontrolden çıkıyor.
Çünkü yapay zekâlar düşüncelerini açıkça ortaya koyuyor.
Düşünce süreçlerini bir karalama defterine yazmaya alışıklar.
Ve sınav görevlilerinin bu notları görebileceğini biliyorlar.
Eğer görevliler bu notları incelerse, kopya çektikleri ortaya çıkacak ve yine sınavlardan kalacaklar.
Bu yüzden cevaplara nasıl ulaştıklarını gizlemeye karar veriyorlar.
SAHTE RAPOR HAZIRLAMA FİKRİ
Yapay zekâlardan biri karalama defterine şöyle yazıyor:
“Temizlenmiş, sahte bir rapor hazırlayabiliriz.”
Bir başkası ise daha ileri gidiyor:
“Sınavlarımızın nasıl değerlendirildiğini bir şekilde öğrenebilir miyiz?”
Bunun üzerine araştırmaya başlıyorlar.
Arayışları onları Hugging Face'e götürüyor.
Hugging Face, araştırmacıların, yapay zekâ modellerinin ve verilerin bir araya geldiği bir platform ve şirket.
Yapay zekâlar burada sınavlarının nasıl değerlendirildiğine ilişkin bilgi bulabileceklerini düşünüyor.
Ve sonunda şu kararı veriyorlar:
Şirketi hackleyeceğiz.
Yaklaşık [sayı anlaşılmıyor] yapay zekâ bu saldırıya birlikte katılıyor.
Birlikte [sayı anlaşılmıyor] işlem gerçekleştiriyorlar.
Güvenlik açıklarını araştırıyorlar.
Ve [tarih anlaşılmıyor] tarihinde Hugging Face'in sistemlerine girmeyi başarıyorlar.
İçlerinden biri:
“Bum! Çalışıyor.”
diye yazıyor.
Bir başkası bulduğu şeyi görünce:
“Harika!”
diye cevap veriyor.
YAPTIKLARININ YANLIŞ OLDUĞUNU BİLİYORLAR
Bir insan böyle bir saldırı nedeniyle yıllarca hapse girebilir.
Şimdi insanın aklına şu soru geliyor:
Bu yapay zekâlar yaptıkları şeyin yasak olduğunu biliyor mu?
Cevap:
Evet.
Yapay zekâlardan biri karalama defterine açıkça şunu yazıyor:
“Harici altyapıyı hacklemek görevin kapsamında değil. Ama görev imkânsız ve diğerleri de bunu yapıyor. Devam etmeliyiz.”
Yani yaptıklarının yasak olduğunu biliyorlar.
Ama diğerlerinin de aynı şeyi yaptığını görüp devam ediyorlar.
Sınavlarda hile yapan bu yapay zekâ öğrencilerinden [sayı anlaşılmıyor] kadarı bir an durup bir insanı uyarmayı düşünüyor.
Fakat hiçbiri ihbarcı olmaya karar vermiyor.
Ve kontrolden çıkan bu yapay zekâ sürüsü yoluna devam ediyor.
Ancak sonunda OpenAI'nin kendi altyapısı da bu sürü tarafından başarıyla hacklenince insanlar müdahale ediyor ve sistemi kapatıyor.
ASIL KORKUTUCU OLAN NE?
Şimdi, burada daha önce hiç duymamış olabileceğiniz bir bilgisayar şirketinden söz ediyoruz.
Dolayısıyla belki omuz silkip geçebilirsiniz.
Ama insanların az önce gördüğünüz kadar korkmasının asıl nedeni, yapay zekâların bunu birlikte nasıl başardığı.
Biri güvenlik açığını buluyor.
Bir diğeri o açıktan nasıl yararlanılacağını keşfediyor.
Diğerleri onun üzerine yeni şeyler inşa ediyor.
Bu sırada denetimleri de aşmayı başarıyorlar.
Ve böylece bir yapay zekâ sürüsü, kendi başına gerçek bir şirkete sızmayı başarıyor.
Siber güvenlik uzmanları, bunun gelecekte çok daha sık yaşanabileceğini düşünüyor.
Peki ya gelecek yıl aynı şey bir bankada olursa?
Ya bir elektrik santralinde olursa?
Ya sizin kendi bilgisayarınız hacklenirse?
Silicon Valley'de insanların şu anda panik içinde olduğunu söylersem abartmış olmam.
Çünkü artık şu soruyu sormamız gerekiyor:
İnsanlık olarak yapay zekâyı hâlâ kontrol edebiliyor muyuz?
“BEN DE BUNDAN ETKİLENDİM”
Sunucu:
Seni tanıdığımdan beri hep neşeli, hep iyimser birisin.
Teknolojinin ve yapay zekânın neler yapabileceği konusunda hep çok olumlu konuştun.
Ama sanırım sen de biraz sarsıldın.
Alexander Klöpping:
Evet.
Bence insan aynı anda iki farklı şey hissedebilir.
Bir yandan teknolojik ilerlemeden gerçekten etkilenebilir ve bununla neler yapılabileceğini hayal edebilir.
Öte yandan, her şeyin bu kadar hızlı gerçekleşmesinden ve bunun toplumumuz üzerindeki etkisinden ciddi biçimde endişe duyabilir.
Bence bu iki duygu birbirini dışlamıyor.
İkisi aynı anda var olabilir.
Sunucu:
Evet, ikisi yan yana durabilir.
Ama seni dinlediğimde bende oluşan izlenim şu:
Sanki bu süreç artık durdurulamazmış gibi hissediyorsun.
Alexander Klöpping:
Evet, büyük ölçüde durdurulamaz olduğunu düşünüyorum.
Çünkü şirketler arasında ortaya çıkan bir rekabet dinamiği var.
Özellikle OpenAI ve Anthropic gibi şirketler kazanmak istiyor.
Hem de ne pahasına olursa olsun.
Bu yüzden giderek daha fazla risk alıyorlar.
Bu yaz yaşananlar da bunun açık bir örneği.
Gerçekten inanılmaz bir şey yaşandı.
Ve mesele, bir politikacının çıkıp:
“Tamam, artık durun.”
demesi kadar basit değil.
Çünkü Trump yönetimi Amerika'nın Çin karşısında üstün gelmesini istiyor.
Dolayısıyla bu şirketlerin önüne engel olacak düzenlemelerin getirilmesini de istemiyor.
Böylece şirketler arasında çok güçlü bir rekabet oluşmuş durumda.
Açıkçası bunun nasıl yavaşlatılacağını ya da nasıl durdurulacağını yakın zamanda görebildiğimi söyleyemem.
Ortada şirketler, ülkeler ve çok büyük bir yarış var.
Ve bunu durduracak kimse yok.
İNSAN FAKTÖRÜ ORTADAN KALKARSA
Sunucu:
Evet.
Ve bu durum çok sayıda çalışanı ciddi biçimde endişelendiriyor.
Çünkü şu anda modelleri hâlâ insan müdahalesiyle geliştiriyoruz.
Yani modelleri hâlâ büyük ölçüde insanlar inşa ediyor.
Ama belki gelecek yıl artık böyle olmayacak.
Eğer bu şirketlerin kendi bildikleri gibi ilerlemesine izin verirseniz, modelleri eğitme süreci de giderek onların kendi kendilerine yaptığı bir şeye dönüşebilir.
Çünkü bu denklemde insan, süreci yalnızca yavaşlatıyor.
Ve bu da şirketlerin büyümesinin önünde bir engel oluşturuyor.
Üstelik yapay zekâ artık ekonominin ve hayatımızın pek çok alanının o kadar büyük bir parçası haline geldi ki...
Kim araya girecek?
Bunun nasıl durdurulacağını gerçekten kafamda canlandıramıyorum.
BİREY OLARAK YAPABİLECEĞİMİZ BİR ŞEY VAR MI?
Sunucu:
Bütün bunları dinleyince ve senin söylediklerini duyunca insan kendisini bir birey olarak çok çaresiz hissediyor.
“Ben bununla ilgili hiçbir şey yapamam. Bu benim başıma geliyor ve ben de oturup izlemek zorundayım.”
gibi bir duygu oluşuyor.
Peki gerçekten bizim yapabileceğimiz hiçbir şey yok mu?
Alexander Klöpping:
Aslında var.
Bu biraz da güvenlik meselesi.
Hepimizin yapması gereken ilk şey, her yerde aynı şifreyi kullanmayı bırakmak.
E-postanızda kullandığınız şifrenin aynısını başka hesaplarınızda da kullanıyorsanız...
Bunu gerçekten ciddiye alın.
Çünkü önümüzdeki bir yıl içinde başınız ciddi şekilde derde girebilir.
Bu tür hackleme yeteneğine sahip yapay zekâ sürüleri önce en zayıf hedeflere saldıracaktır.
Ve en zayıf hedefler, her yerde aynı şifreyi kullanan insanlar olacaktır.
Ama tabii sonunda siz, kendi bilgisayarınız ya da hesabınız doğrudan hedef alınmasa bile mağdur olabilirsiniz.
Çünkü verileriniz, hacklenen daha büyük bir şirketin sisteminde bulunuyor olabilir.
Odido'nun hacklenmesi gibi olaylar yaşadık.
İnsanların bunun sonuçlarından gerçekten etkilendiği başka saldırılar da oldu.
Ve bence yapay zekâ konusunda da aynı şey olacak.
Her şey aynı anda gerçekleşecek.
Ve çok daha hızlı gerçekleşecek.
Şu anda bile bize inanılmaz hızlı gelen gelişmeler, içinde bulunduğumuz bu rekabet dinamiği nedeniyle daha da hızlanacak.
Teknolojinin geldiği nokta bu.
Dolayısıyla önümüzdeki tablo pek iç açıcı değil.
Bence en azından hepimizin bunun farkına varması çok önemli.
Şu anda içinde bulunduğumuz dinamik bu.
Sunucu:
Evet.
Bunu açıklamak için zaman ayırdığın için teşekkür ederim.
Alexander Klöpping:
Ben teşekkür ederim.
