10–16 Ekim haftasında bilim ve teknoloji gündeminin ortak noktası, bana göre, “daha güçlü sistemler” kadar bu sistemleri nasıl kontrol edeceğimizin de önem kazanmasıydı. Yapay zekâdan biyoteknolojiye, robotikten uzay araştırmalarına kadar birçok alanda aynı soru tekrar karşımıza çıkıyor: Teknoloji hızlanırken güvenlik ve doğrulama aynı hızda ilerliyor mu?

Haftanın en dikkat çekici gelişmelerinden biri yapay zekâ güvenliğinden geldi. Yaklaşık 400 bilim insanı ve yapay zekâ araştırmacısı, gelişmiş ve özellikle siber yeteneklere sahip modeller için uluslararası bir denetim mekanizması kurulması çağrısı yaptı. Öneri; ciddi güvenlik olaylarının kaydedilmesi, bağımsız değerlendirme yapılması ve bazı ileri modellerin başlangıçta dış ağlardan izole edilmesini kapsıyor. Aynı hafta Anthropic de bağımsız değerlendirme kuruluşu METR’e kendi iç sistemlerine daha geniş erişim verdi. Bu gelişmeler, yapay zekâ sektöründe “şirket kendi modelini kendi denetlesin” anlayışının giderek yetersiz görüldüğünü gösteriyor.

Üstelik riskler yalnızca teorik değil. Anthropic’in yayımladığı yeni araştırma, gelecekte küçük yapay zekâ modellerinin internet bağlantılı cihazlar arasında kendi kendini kopyalayabilen zararlı yazılımlara dönüşme ihtimalini araştırıyor. Şirketin deneyleri henüz bunun kolay olmadığını gösteriyor; dolayısıyla ortada bugün çalışan bir “AI solucanı” yok. Yine de küçük modellerin buzdolabı, kamera veya IoT cihazlarına sızıp yayılabilme ihtimali, klasik siber güvenliğin önümüzdeki yıllarda ciddi biçimde değişebileceğini düşündürüyor.

Biyoteknolojide ise yapay zekânın çok daha yapıcı bir yüzünü gördük. Washington Üniversitesi’nden araştırmacılar, yapay zekâ tabanlı protein tasarım araçlarını kullanarak belirli proteinleri kesebilen yeni enzimler geliştirdi. Daha da ilginci, bu enzimlerin bazıları Alzheimer ve frontotemporal demansla ilişkili proteinleri hedefleyecek şekilde tasarlandı. Ancak burada önemli bir ayrım var: Çalışma laboratuvar düzeyinde ve bu proteinlerin insan vücudunda güvenli şekilde hedeflenebilmesi için aşılması gereken ciddi engeller bulunuyor. Yine de yapay zekânın yalnızca protein yapısını tahmin etmekten çıkıp tamamen yeni biyolojik işlevler tasarlamaya başlaması önemli bir eşik.

Uzay araştırmalarında ise Venüs yeniden gündeme geldi. NASA’nın DAVINCI ve VERITAS görevleri, bütçe sorunları ve iptal tartışmalarının ardından tekrar takvime girmiş durumda. DAVINCI’nin 2030’da, VERITAS’ın ise 2032’de fırlatılması hedefleniyor. DAVINCI, Venüs atmosferinden geçerek yüzeye yakın bölgelerden doğrudan veri ve görüntü toplamaya çalışacak; VERITAS ise radar kullanarak gezegenin yüzeyini yüksek çözünürlükle haritalayacak. Venüs, Dünya’ya yakın boyutlarda olmasına rağmen nasıl bu kadar aşırı sıcak ve yaşanmaz hale geldiğini hâlâ tam olarak açıklayamadığımız bir dünya. Bu görevler, iklim sistemlerinin uzun vadede nasıl kontrolden çıkabileceğini anlamamız açısından da değerli.

Robotik tarafında ise ölçek dikkat çekiyor. Amazon’un depolarında çalışan robot sayısının bir milyonu geçtiği bildiriliyor. Bu sayı, robotların artık deneysel teknoloji olmaktan çıkıp büyük ölçekli lojistik altyapının sıradan bir parçasına dönüştüğünü gösteriyor. Tartışma da doğal olarak “robot yapabilir miyiz?” noktasından “robotlarla birlikte iş gücü nasıl dönüşecek?” sorusuna kayıyor.
Bu haftanın genel tablosu oldukça net:

Teknolojinin sınırı artık yalnızca ne yapabildiğimizle belirlenmiyor; yaptığımız şeyi ne kadar güvenli, denetlenebilir ve anlamlı biçimde kullanabildiğimiz de aynı derecede önemli.

Yapay zekâ yeni enzimler tasarlıyor, makineler milyonlar halinde fabrikalara ve depolara giriyor, Venüs’e yeniden dönmeye hazırlanıyoruz.

Ama belki de önümüzdeki dönemin en önemli teknolojik başarısı, daha güçlü sistemler yapmak değil, güç arttıkça kontrolü de aynı oranda geliştirmek olacak.