Birçok araştırmaya konu olan yapay zeka, kontrol edilip edilemeyeceğiyle ilgili yeni tartışmaları da beraberinde getirdi. Yapılan son incelemeler onu kontrol etmemizin neredeyse imkansız olacağına dikkat çekiyor.
Yapay zeka teknolojisinin insan türünü alt edeceği fikri on yıllardan beridir konuşuluyor ve bir grup bilim insanı, Ocak 2021’de, üst düzey bir bilgisayarın barındırdığı süper zekâyı kontrol edip edemeyeceğimize ilişkin bir karara vardı. Cevap mı? Onu kontrol etmek neredeyse imkansız.
Mesele şu ki, insanların kavrama gücünün çok ötesinde bir süper zekayı kontrol etmek için analiz edebileceğimiz bir süper zeka simülasyonuna ihtiyacımız var. Fakat eğer bunu kavrayamayacaksak, böyle bir simülasyonu yaratmak da mümkün değil.
“Anlayamıyorsan, denetleyemezsin!”
2021 tarihli makalenin yazarlarına göre, bir yapay zekanın ne gibi senaryolar üretebileceğini anlayamadığımız bir durumda ‘insanlara zarar vermemek’ gibi kurallar da koyamayız. Eğer bir bilgisayar sistemi programcılarımızın kapasitesinin üstündeki bir seviyede çalışıyorsa, ona artık bir sınırlama getiremeyiz.
Araştırmacılar, “Bir süper zeka, temelde, tipik olarak ‘robot etiği’ başlığı altında tartışılan olgulardan farklı bir sorun oluşturuyor” diye not ediyorlar.
“Bunun sebebi, bir süper zekânın çok karmaşık olması ve bu yüzden potansiyel olarak anlayamadığımız amaçlara ulaşmak doğrultusunda, potansiyel olarak birçok farklı kaynağı harekete geçirme becerisine sahip olması.”
Araştırma ekibinin ortaya koyduğu gerekçelerin bir kısmı, Alan Turing‘in 1936 yılında öne sürdüğü ‘duraksatma’ [ing. halting] sorunundan kaynaklanıyor. Sorun, bir bilgisayar programının yanıt ararken bir neticeye ulaşıp ulaşmayacağını (bu yüzden duraksayabilir) ya da yalnızca bir yanıt bulmaya çalışırken sonsuza dek bir döngüde takılı kalıp kalmayacağını bilmek üzerine odaklanıyor.
Turing’in bazı zekice hesaplamalarla ispatladığı üzere, kimi belirli programlar bağlamında bunu bilebilirken, şu ana dek yazılabilecek her potansiyel program için bunu bilmemize olanak sağlayacak bir yol bulmamız mantıksal olarak imkansız. Bu gerçek, bizi, süper akıllı bir durum söz konusu olduğunda, muhtemel olan tüm bilgisayar programlarını aynı anda hafızasında tutabilen bir yapay zekaya geri getiriyor.
Süper akıllı yapay zeka, ne yapacağına da kendisi karar verecek!
Yapay zekanın insanlara zarar vermesini ve dünyayı yok etmesini önlemek amacıyla yazılacak herhangi bir program, belki bir sonuca varabilir (ve işleyişini durdurabilir) ya da böyle olmayabilir; her iki durumda da kesin biçimde emin olmamız matematiksel bağlamda mümkün değil ve bu da kontrol edilemeyeceği anlamına geliyor.
Almanya’da bulunan Max-Planck İnsani Gelişim Enstitüsü’nde bilgisayar bilimci olan Iyad Rahwan, ocak ayında verdiği bir demeçte, “Aslında bu durum, sınırlayıcı bir algoritmayı işlevsiz hale getiriyor” demişti.
Araştırmacıların aktardığı kadarıyla, yapay zekaya bir miktar etik öğretmenin ve -hiçbir algoritmanın tam anlamıyla kesin olarak yapamayacağı- dünyayı yok etmemesini telkin etme seçeneğinin alternatifi, süper zekanın becerilerini sınırlamak olabilir. Mesela, internetin kimi bölümleriyle ya da belirli ağlarla bağlantısı kesilebilir.
Son dönemde gerçekleştirilen araştırma, bunun, yapay zekanın erişimini sınırlayacağını savunarak bu fikri de reddediyor; burada öne sürülen gerekçe, “Şayet onu insanların kontrolü dışındaki sorunları çözmek için kullanmayacaksak, neden onu yaratalım” şeklinde.
Ciddi sorular sormanın vakti geldi
Eğer yolumuza yapay zeka ile devam edeceksek, kontrolümüz altında olmayan bir süper zekanın ne zaman ortaya çıkacağını dahi bilemeyebiliriz; onu anlaşılmaz kılan şey de işte bu. Bu gerçek ise, ilerleyeceğimiz doğrultuyla ilgili ciddi sorular sormaya başlamamız gerektiği anlamına geliyor.
Max-Planck İnsani Gelişim Enstitüsü’nden bilgisayar bilimci Manuel Cebrian, “Dünyayı kontrol eden süper akıllı bir makine, kulağa bir bilim kurgu öğesi gibi geliyor” diyor.
Ne var ki, programcıların henüz nasıl öğrendiklerini kesin olarak anlamadığı ama kimi mühim görevleri bağımsız biçimde yerine getiren makineler halihazırda mevcut. Bu yüzden, bunun bir yerden sonra insanlık açısından kontrol dışı ve tehlikeli bir hale gelip gelmeyeceği sorusu karşımızda duruyor.
Kaynak: Araştırma, Journal of Artificial Intelligence Research (Yapay Zeka Araştırmaları) adlı dergide yayınlandı. Haberin orijinali Science Alert sitesinde David Nield tarafından kaleme alındı. (Çeviren: Tarkan Tufan)
