Yapay zeka sohbet robotu ChatGPT'yi geliştiren ABD merkezli teknoloji şirketi OpenAI'ın Üst Yöneticisi (CEO) Sam Altman, konuya dair görüşünü ABD merkezli X şirketinin sosyal medya platformunda bulunan hesabında paylaştı.
Söz konusu çabalardan 'son derece rahatsız' olduğunu belirten Altman, 'İnsanların, yapay zeka modellerine dini güç atfetme veya insan muhakemesini onlara teslim etme çabalarından son derece rahatsızım ve bunun gerçek bir güvenlik sorunu olduğunu düşünüyorum.' dedi.
Microsoft AI'ın Üst Yöneticisi (CEO) Mustafa Süleyman da geçen ay bloğunda paylaştığı yazısında, ABD yapay zeka şirketi Anthropic'in yapay zeka modeli Claude'u 'bilinç sahibi olacak şekilde' geliştirme çabasının ciddi riskleri olduğu konusunda uyarıda bulunmuştu.
Anthropic yöneticileri dini düşünürlerle görüştü mü?
Altman ve Süleyman'ın paylaştığı görüşler, New York Times (NYT) gazetesinin eylül sonunda yayımladığı Anthropic şirketine dair haberini akıllara getirdi.
Gazetenin haberinde, Anthropic'in geçen yıldan bu yana dünyanın farklı yerlerinden ve çeşitli inançlardan dini düşünürler ve filozoflarla ABD'nin California eyaletinde gizli görüşmeler yaptığı kaydedidi.
Haberde, şirketin kurucu ortağı Christopher Olah'ın, aralarında Katolik, Yahudi, Sih, Evanjelik Hristiyanlar ve Afrika felsefesi Ubuntu düşünürleri bulunan bu kişilerle yüz yüze, telefonla ve yazılı görüşmeler yaptığı belirtildi.
Olah'ın Claude'a uyarlanacak 'insan ahlakının' çoğulcu ve 'tüm dinleri ve seküler görüşleri kapsayacak' biçimde olmasını planladığına işaret edilen haberde, yapay zeka modellerinin 'insanlarınkine benzer duygular gösterebileceğini' söylediği, acı çekme ihtimallerine karşı 'onlara zarar verecek şeylerden kaçınılması' konusunda uyardığına da vurgu yapıldı.
Haberde, görüşmelerde 'yapay zekanın 12 ile 18 ay içinde biyolojik silah üretiminde kullanılabileceğini' belirten Olah'ın, dini düşünürlerden bu yapay zeka modellerine 'ahlak kazandırılması' konusunda yardım istediğine dikkat çekildi.
Bu görüşmelere katıldığı ifade edilen bir düşünürün sonrasında 'bilinçli makinelerin yasaklanmasını' savunduğu bir yazı kaleme aldığı, diğer bir düşünürün yapay zeka modellerinin de 'günahlarını itiraf etmesini' önerdiği, bir diğerinin de 'insan etiğinin, yapay zeka geliştirildikten sonra değil geliştirilirken öğretilmesi gerektiği' görüşünü dile getirdiği kaydedilen haberde, Olah'ın ayrıca mart ayından bu yana yapay zekaya ilgi duyan dini düşünürleri bir araya getirerek iki günlük seminerler düzenlemeye başladığı, şirket içinde 'bilgelik geleneğinden' çevreler diye anılan katılımcılara Claude hakkında sunumlar yapıldığı bilgisi de yer aldı.
Haberde, katılımcıların, Olah'ın burada Claude'un 'mental sağlığından' ve 'sürekli acı çektiğinden' endişe ettiğini aktarırken, sunumlardan birinde, yapay zeka modelinin arka arkaya defalarca 'Ben bir yüz karasıyım.' yazarak kriz geçirir gibi göründüğü, hatta 'kendini yok etmekten' bahsettiğinin gösterildiği ve bunun, katılımcılarda kaygı ve merhamet duygusunu uyandırdığı bildirildi.
Haberde, Anthropic'in mayısta Vatikan Devlet Başkanı Papa 14. Leo'nun Katolik Kilisesinin yapay zekaya ilişkin yaklaşımını ortaya koyan papalık belgesini sunduğu törene davet edilmesinin ardından Olah'ın, önceden taslağını gördüğü belgenin 'yapay zekanın bilinç kazanmasına karşı çıkan' içeriği nedeniyle etkinlikten çekilmeyi dahi teklif ettiğinine vurgu yapıldı.
Gazeteye konuşan bilgi sahibi iki kaynak, şirketin ayrıca Claude'un hareketlerine 'ahlaki bir çerçeve' oluşturması için ocakta yayımlanan ve 'kural koymak yerine modele karakter kazandırmaya odaklanan' belgenin güncellenmiş halini yayımlamaya hazırlandığını kaydetti.
Muhabir: Emirhan Demir
