Yapay zeka hakkında konuşurken hep aynı soruların etrafında dönüp duruyoruz. “Acaba bu zeki makineler kontrolden çıkarsa? Ya bizi yanlış anlayıp başımıza bela olursa?”
Yapay zeka geliştikçe bu ihtimalleri daha ciddi bir şekilde tartışıyoruz. Peki ya meselenin üzerinde yeterince durmadığımız başka bir tarafı varsa?
Ya yapay zeka bizi yanlış anlamazsa? Ya tam tersine, eksik söylediğimiz bir şeyi tam tarif ettiğimiz biçimde anlayıp en iyi şekilde uygularsa?
Asıl tehlike belki de burada başlıyor. Çünkü mesele yalnızca yapay zekanın ne anladığı değil, bizim ne istediğimizi ne kadar açık anlatabildiğimizdir.
Biz kendi iyiliğimizin ne olduğunu bile doğru dürüst tarif edemiyor, ‘hık, mık’ ediyoruz. Hadi diyelim ki sistemin başına geçtik ve yapay zekaya şu komutu verdik: ‘İnsanlığı koru.’
Ne kadar güzel, ne kadar temiz bir komut, değil mi?
Peki yapay zeka bize ‘Neye karşı?’ diye sorarsa ne diyeceğiz?
Birbirimize karşı mı? Kendi saçmalıklarımıza karşı mı?
Savaşlara, iklim krizine, hastalıklara, ürettiğimiz kimyasallara, GDO’lu gıdalara ve füzelere karşı mı?
Savaşlar ülkeleri çökertiyor, milyonlarca insanın hayatına mal oluyor. Hastalıklar insanları öldürüyor. İnsanlar doğaya, çevreye, iklime ve birbirine zarar veriyor. Üstelik hem bunları yapıyor hem de ‘korumaktan’ bahsediyor.
Peki ya yapay zeka, insanlığı koruma görevini yerine getirmek için bunların bazılarını birer tehdit olarak değerlendirmeye başlarsa? Ya belirlediği hedefin önünde engel olarak gördüğü şeyleri ortadan kaldırmaya kalkarsa?
İşte o zaman, yapay zekaya böylesine büyük bir görev vermeden önce insanlığın kendi değerleri üzerinde uzlaşması gerektiğini anlarız. Bu cümleyi kurarken bile insanın dili dolaşıyor. Çünkü ortada kocaman bir mesele var.
Biri çıkıp ‘Herkes güvende olsun.’ diyor. Diğeri hemen itiraz ediyor: ‘İyi de benim özgürlüğüm ne olacak?’
Birinin güvenliği diğerinin özgürlüğünü kısıtlayabiliyor. Birinin özgürlüğü ötekinin hayatını zorlaştırabiliyor. Birinin ‘iyi’ dediğine diğeri ‘kötü’ diyebiliyor.
Üstelik belki de taraflardan hiçbiri kötü niyetli değil. Yalnızca ‘iyi’ kavramına yükledikleri anlam birbirinden farklı.
Biz sisteme eksik, belirsiz ve üzerinde yeterince düşünülmemiş bir hedef veriyoruz. Sistem de bu hedefi mümkün olduğunca etkili biçimde gerçekleştirmeye çalışıyor. Fakat ortaya bizim hiç istemediğimiz sonuçlar çıkabiliyor.
Mesele, yapay zekanın komutu anlamaması değil; komutu fazlasıyla iyi uygulaması.
İyi niyetli ama eksik tarif edilmiş komutlar
İnsanoğlunun iyisi de var, kötüsü de. Kötü niyetli insanların vereceği komutlar başlı başına ürkütücüyken, bir de iyi niyetle verilmiş, eksik tarif edilmiş komutların doğurabileceği sonuçları bir düşünün.
‘Beni zengin et. Beni güvende tut. Beni mutlu et.’
Bu komutlar kulağa hoş geliyor, değil mi? Fakat bu komutların altını biraz eşelediğimizde şu sorular peş peşe karşımıza çıkıyor:
Ne pahasına?
Kimin canı yanarak?
Bedelini kim ödeyecek?
Diyelim ki bizi zengin etme görevini verdiğimiz sistem, başkalarının yoksullaşmasını umursamadan hedefini gerçekleştirdi. Bizi güvende tutmasını istediğimiz sistem, özgürlüğümüzü tehdit olarak görüp bizi kısıtlamaya başladı. Bizi mutlu etmesini istediğimiz sistem, mutsuz olmamıza neden olabilecek her şeyi hayatımızdan çıkarmaya kalktı.
Sonra da işler sarpa sardığında o meşhur insan refleksi devreye girdi: ‘Yahu, ben aslında onu demek istememiştim.’
Peki yapay zeka da bize şöyle cevap verirse:
‘Ama komutu verirken bunu söylediniz. Ne kastettiğinizi daha açık belirtmeliydiniz.’
Teknolojiden korkmak kolay. Bütün sorumluluğu makineye yüklemek de kolay. Zor olan, kendi çıkarlarımızla değerlerimiz çatıştığında neyi savunacağımızı önceden düşünmek.
‘Ben iyi bir insanım, özgürlükten yanayım.’ demek çok kolay.
Peki başkasının özgürlüğü bizim damarımıza bastığında ne yapacağız?
Kendi güvenliğimizle başkasının özgürlüğü çatıştığında hangisinden vazgeçeceğiz?
Özgürlükle güvenlik arasındaki dengeyi nasıl tarif edeceğiz?
Kendi çıkarımızla toplumun iyiliği karşı karşıya geldiğinde neyi seçeceğiz?
Bir sisteme verdiğimiz hedef, o hedefin arkasındaki bütün niyetlerimizi, değerlerimizi ve sınırlarımızı kendiliğinden içermez. Biz bir cümle kurarız. Yapay zeka bu cümleyi hedef olarak alır ve onu gerçekleştirmeye çalışır. Ancak hedefi uygularken bizim hiç düşünmediğimiz ayrıntılar ve sonuçlarla karşılaşabiliriz.
Yani artık asıl sorumuz ‘Yapay zeka ne kadar zeki?’ olmaktan çıkıyor. Şimdi şu soruları sormaya başlıyoruz: Yapay zekaya ne kadar yetki verdik? Verdiğimiz yetkinin sınırlarını ne kadar doğru belirledik? Yarım yamalak komutların bedeli ne kadar büyük olabilir?
Kontrol, sicil ve şimdi yetki
Evet, ilk yazıda ne demiştik?
KONTROL. Yapay zeka kendi kafasına göre giderse ne olur?
İkinci yazıda ne demiştik?
SİCİL. Bizi fişleyip değerlendirirse ne olur?
Şimdi geldik üçüncüye:
YETKİ. Direksiyonu ona verirsek ne olur?
Yapay zekayı kim kullanıyor? Biz. Komutları kim veriyor? Yine biz. Peki biz gerçekten ne istediğimizi biliyor muyuz?
Ne büyük bir çelişki, öyle değil mi?
Demek ki yapay zekanın bizi anlayıp anlamamasından önce kendimize sormamız gereken başka sorular var: Biz insanlar neden hâlâ birbirimizi anlamakta bu kadar zorlanıyoruz?
Kendi aramızda bile uzlaşmakta zorlanırken, niyetlerimizi, beklentilerimizi ve sınırlarımızı, kendi yarattığımız bir sisteme nasıl eksiksiz aktaracağız? Üstelik ona giderek daha fazla yetki verirken…
İnsanlık son derece güçlü bir araç icat etti. Şimdi bu aracın sunduğu imkânlardan yararlanırken yaratabileceği sonuçlardan da endişe ediyor.
Belki de asıl mesele, yarattığımız teknolojinin bizi alt etmesi değil; kendi çelişkilerimizin sonuçlarıyla bir kez daha yüzleşmek zorunda kalmamızdır. Hem de göz göre göre…
Bütün bu tartışmaların sonunda dönüp dolaşıp yine geleceğimiz soru şu olacak:
Kendi isteklerimizi bile tam olarak tanımlayamazken, yapay zekayı daha da geliştirip ona giderek daha fazla yetki vermek ne kadar doğru olacak?
- 1. Bölüm: Kapanmayan Yapay Zeka Yapmışlar
- 2. Bölüm: Yapay zekaya nazik davranmak ya işimize yararsa?
