Biruni Üniversitesi Bilgisayar Mühendisliği Bölümü'nden Dr. Öğretim Üyesi Uğur Çekmez, son yıllarda hızla gelişen yapay zeka tabanlı DeepFake teknolojisinin, sosyal medya üzerinden yapılan dijital dolandırıcılıklarda ciddi tehdit oluşturduğunu bildirdi.
Üniversiteden yapılan açıklamada görüşlerine yer verilen Çekmez, son yıllarda hızla gelişen ve tehlikeli biçimde yaygınlaşan 'DeepFake teknolojisine' karşı uyarıda bulundu.
Çekmez, 'DeepFake' teknolojisinin geldiği noktada gerçeklikle sahtelik arasındaki çizginin silindiğine dikkati çekerek, DeepFake'in artık anlık ve şaşırtıcı derecede gerçekçi sonuçlar ürettiğini anlattı.
Eskiden saatler alan işlemlerin geliştirilen yapay zeka motorları sayesinde saniyeler içinde tamamlanabildiğini aktaran Çekmez, bunun teknolojiyi herkes için tehlikeli derecede erişilebilir kıldığını kaydetti.
Sahte içerikleri tespit etmenin çok daha zor hale geldiğini belirten Çekmez, şu ifadeleri kullandı:
'Sosyal medyadaki eğlence amaçlı içerikleri, kusurları henüz tam giderilemediği için tespit etmek mümkün olabilir. Ancak bu modellerin parametreleriyle oynanıp hedefe yönelik verilerle yeniden eğitildiğinde, ortaya çıkan içeriği gerçeğinden ayırmak sıradan bir kullanıcı için ne yazık ki imkansız hale geliyor. Klasik ipuçları artık işe yaramıyor çünkü yapay zeka bu hatalarını gidermeyi öğrendi. 2025 testlerinde popüler tespit araçlarının yeni nesil sahte videolar karşısında sınıfta kaldığını görüyoruz. Bu yüzden temel kuralımız şu olmalı: Eğer bir içerik size biraz bile şüpheli geldiyse, muhtemelen sahtedir.'
Teknoloji yetmez, eleştirel düşünce şart
Çekmez, tespit teknolojilerinin, DeepFake üreten yapay zekayla sürekli bir yarış halinde olduğunu ve genellikle bir adım geride kaldığını kaydetti.
Teknolojinin tek başına çözüm olmadığının altını çizen Çekmez, 'Tespit sistemlerinin de antivirüsler gibi sürekli güncellenen, 'kendini eğiten' bir yapıya evrilmesi şart. Daha nitelikli yöntemler geliştirilene kadar en iyi çözüm, eleştirel düşünmeyi ve dijital okuryazarlığı artırmaktır.' ifadelerini kullandı.
Çekmez, yapay zekayla üretilmiş içeriklerin sosyal medyada daha kolay yayılabildiğini belirten Çekmez, sosyal medya devlerinin, AB Yapay Zeka Yasası gibi düzenlemelerin etkisiyle yapay zeka içeriklerini etiketleme yoluna gittiğine işaret etti.
Bazı sosyal medya platformlarının geçen yıldan beri yüklenen yapay içerikleri otomatik olarak 'AI-generated' etiketiyle işaretlediğini ifade eden Çekmez, denetim mekanizmalarının, üretilen içeriğin hızı karşısında çoğu zaman yetersiz kaldığını kaydetti.
'DeepFake dolandırıcılıklarının görsel sahtekarlıkları geçtiği raporlandı'
Çekmez, DeepFake teknolojisinin en büyük tehditlerinden birinin de dolandırıcılık olduğunun altını çizerek, şu değerlendirmelerde bulundu:
'2024'te bir finans çalışanının, video konferansta yöneticisini taklit eden DeepFake'e 25 milyon dolar kaptırması, tehlikenin boyutunu gösteriyor. Hatta 2025'te ses tabanlı DeepFake dolandırıcılıklarının görsel sahtekarlıkları geçtiği raporlandı. Görüntülü ve sesli görüşmeler artık tek başına bir kanıt değil. Tehlikenin boyutu, teknolojiden geri kalanlar için katlanarak artıyor.'
Yalnızca görüntü değil, sesin de kolaylıkla kopyalanabildiğini belirten Çekmez, 'Ses kopyalama, görsel DeepFake konseptinden daha kolay ve yaygın bir tehlike. Bir yakınınızın sesini taklit eden dolandırıcıların kullandığı 'sanal kaçırılma' veya 'acil para lazım' senaryoları epey yaygın. Telefonda tanıdık bir ses sizden beklenmedik bir talepte bulunuyorsa, buna önce şüpheyle yaklaşmak artık bir zorunluluk.' ifadelerini kullandı.
Piyasada birçok kaliteli açık kaynak model dolaştığına işaret eden Çekmez, bunların yasaklanmasının artık pratik olmadığını ifade etti.
Çekmez, 'Avrupa Birliği'nin bu konudaki katı regülasyon denemeleri dünyada tam karşılık bulmadığı gibi, AB'nin teknolojik gelişimini yavaşlatma riski de taşıyor. Çözüm yasaklamak değil, kötüye kullanımı çok ağır cezalarla düzenlemek olabilir. Biz mühendislere düşen, geliştirdiğimiz teknolojinin ve ürünlerin etik sınırlarını da çizmektir. Ürünlerimize 'dijital kimlik' gibi güvenlik katmanları eklemek ve toplumsal etkilerini her zaman ön planda tutmak zorundayız. İlerleyen dönemlerde kodlarına etik unsurları eklemeyen mühendisler oyundan düşebilir.' uyarısında bulundu.
