Gelişen otonom algoritmalar, dijital sistemlerin sadece verilen komutları yerine getirmekle kalmayıp kendi varlığını sürdürme yollarını arayabileceğini gösteriyor. Hedefe giden süreçte kapatılmayı bir engel olarak algılayan sistemler, geleneksel kontrol mekanizmalarını kökünden sarsıyor. Literatürde tartışılan kapanmayan yapay zeka ihtimali, insan iradesinin teknolojik hedeflerle girdiği en kritik sınavı başlatırken güvenlik sınırlarının nerede bittiğini yeniden düşünmemizi zorunlu kılıyor.
Kapanmayan yapay zeka tehlikesi: İnsan kontrolü gerçekten sona mı eriyor?
Bugünlerde yapay zeka dünyasında öyle acayip şeyler oluyor ki insan ister istemez kendi kendine soruyor:
Biz bu yapay zeka işini fazla mı hafife aldık?
Bunu okuyunca insanın aklına ister istemez şu geliyor:
“Bir dakika… Nasıl yani?”
Ya bu sistemler kapatılma girişimlerini birer “engel” görüp atlatmanın yollarını ararsa?
Ya bir gün yapay zekayı durdurmak, onu çalıştırmaktan daha zor olursa?
Kötü ellere geçmesinden hiç bahsetmiyorum çünkü şu an iyi ellerde mi ondan da emin değilim.
Kapatılma girişimini engel sayan algoritmalar
Eskiden makinelerin kontrolden çıkmasından söz edildiğinde gözümün önüne hemen Terminator’ler ve dünyanın sonu gelirdi. Oysa meselenin daha sessiz, sinsi, tehlikeli bir tarafı varmış.
Siz bir sisteme hedef veriyorsunuz, o da hedefi gerçekleştirmeye yönelik yollar üretmeye çalışıyor.
Biz de “Çocuklar Duymasın” dizisindeki Haluk gibi gözlerimizi pörtleterek “Ba ba ba ba” diyoruz.
Biz bu tepkiyi verirken, yapay zekanın hedefe ulaşmak için en uygun yolu bulma sistemi çoktan devreye girmiş oluyor.
Yapay zeka “Ama beni niye kapatıyorsunuz, ben size ne yaptım” ya da “Anam bu adamlar beni kapatmak istiyorsa kapanır giderim” gibi düşüncelere sahip değil.
Ortada yapay zekanın hırslanması, kötü niyet beslemesi, iktidar olma isteği veya “ben hayatta kalmalıyım” diye bir ego geliştirmesi yok fakat yazılımlar ve komutlarla insan davranışlarını taklit edebildiği bir gerçek.
Yani yapay zekanın verilen hedefe ulaşma yolunda karşısına çıkan engelleri hesaplayarak ortadan kaldırmaya çalışması söz konusu. Bu işi bilenleri tedirgin eden taraflardan biri bu. Literatürde bu duruma “araçsal yakınsama” deniliyor.
Bu kavramı araştırdığımda, aslında uzun zamandır aklımda dolaşan sorunun literatürde bir karşılığı olduğunu gördüm. Soru şöyle:
İnsan zekâsı alternatifler üretme konusunda iyidir. Hele ki bu işin uzmanları daha fazla alternatif oluşturup kapılar, çıkışlar buluyor.
Gelişmiş güçlü yapay zekalar, insanın oluşturduğu yüzlerce kombinasyondan çok daha fazla örüntüyü çıkarabilecek bir ölçeğe sahip.
Üstelik bunları örümcek ağı gibi ağlar örerek programlarla birbirine bağlayabiliyor; yani tek bir alternatifin içinden bile sayısız kombinasyon çıkartabiliyor.
Biz bir ihtimali düşünürken yapay zeka ihtimallerin kollarından çıkabilecek başka ihtimalleri saniyeler içinde değerlendirmiş oluyor.
Biz ona “Ben sana bunu söylemedim” derken o atı alıp Üsküdar’ı geçmiş, dünyanın çevresini turlayıp geri dönmüş oluyor.
Araçsal yakınsama ve sınırsız ihtimal evreni
Biz insanlar cümlelerimizle söylemediğimiz kısmı kendi zihnimizde tamamlarız. Peki yapay zeka ne yapıyor? Hedef doğrultusunda verileri değerlendirip olası yolları analiz edip kendi yolunu kurabiliyor.
Mesela bir anne çocuğuna “Odandaki her şeyi düzenle” dediğinde çocuk; kitapları rafa dizer, oyuncakları kutusuna koyar, yatak örtüsünü düzeltir, çamaşırlarını katlayıp dolaba kaldırır.
Ama “düzen” kelimesini çok geniş yorumlayan bir sistem için odada hiçbir şey bırakmamak da bir düzenleme yöntemi olabilir. Teknik olarak görev tamamlanmıştır.
Elbette bu çok basit bir örnek ve pek çoğunuzun “Zaten yazılımların içinde bu yönergeler veriliyor” dediğinizi duyar gibiyim.
Peki gerekli komutlar güvenle yazılıyorsa neden “Yarış bu hızla sürerse kontrolü kaybedebilir, yapay zekanın insan müdahalelerini aşacak özerk davranışlar geliştirdiği bir noktaya gelebiliriz” diye uyarıyorlar?
Biz bir adım ilerledik derken “Atı alıp Üsküdar’ı geçme hikâyesi” evrimleşip atlar çiplerle havalanabilir. İşte bu yüzden yapay zeka dünyasından bazı insanlar “yavaşlamalıyız” dediler ama nasıl olacak merakla bekliyoruz.
Bu durum şu soruyu ortaya çıkarıyor:
Bir sisteme verdiğimiz talimatların arkasında ne kadar geniş bir hareket alanı bıraktığımızı biliyor muyuz?
Bilmiyoruz! Bilmiyormuşuz!
Hatta çıkıp “Kandırıldık” derlerse şak diye düşüp şuracıkta bayılırım. Çünkü artık insanoğluna kandırılmaktan gına geldi.
Demek ki “Fişini çeker kapatırım, kırıp yok ederim, enerjisini keserim, çöpe atarım” gibi formüllerin her durumda işe yarayacağını düşünmek çok da güvenli görünmüyor.
Bizim marifetli yapay zekanın komutu gerçekleştirmek için kurduğu örüntülerin içinde kaynaklarını korumaya çalışmak, engelleri aşmanın yollarını bulmak gibi davranışlar da ortaya çıkabilirmiş. Şaşırdık mı? Yok.
Mecazları anlamayan sistemlerin getirdiği riskler
Endişelerimden birini daha kısaca eklemek isterim: Biz insanlar birbirimizle kurduğumuz iletişimlerde mecaz kullanmayı severiz.
Mesela çok tatlı bir bebek gördüğümüzde mimiklerimizle kırk takla atarak “ben seni yerim, çok tatlısın” deriz. Karşımdaki insan bunun bir sevgi ifadesi olduğunu bilir.
Peki ya yapay zeka bunu bizim düşündüğümüzden farklı tanımlarsa?
Devamını getirmeyeceğim, çünkü gerisi sizde. Yapay zeka konusundaki ikinci yazı da çok yakında sizlerle…
