Üst düzey bir OpenAI araştırmacısı, dünyanın yapay genel zekaya yani yapay zekanın insan beyinleri kadar iyi bir seviyeye geldiği noktaya hazır olmadığını düşünüyor.
Araştırmacılar yıllardır, yapay sistemlerin geniş bir görev yelpazesinde bizim kadar iyi olacağı Yapay Genel Zeka (YGZ) -İngilizce: Artificial General Intelligence (AGI)- döneminin gelişine dair tahminler yürütüyor. Pek çok kişi bu gelişmenin, bilgisayarların bizim öngöremediğimiz şekillerde hareket etmesine yol açabileceğinden varoluşsal bir tehdit olabileceğini ileri sürüyor.
ChatGPT ‘nin geliştiricisi OpenAI’ın yapay genel zekaya hazır olmasını sağlamakla görevlendirilen kişiyse an itibarıyla dünyanın da şirketin kendisinin de “hazır olmadığını” söyledi. Miles Brundage, geçmişte OpenAI’ın “YGZ’ye hazırlık için üst düzey danışmanı” görevini üstleniyordu ama şirketin, ekibi küçülteceğini açıklamasının ardından bu hafta işten ayrıldığını duyurdu.
Brundage, hazırlık eksikliği “OpenAI’ın liderleri arasında tartışmalı bir ifade değil ve özellikle bu, şirketin ve dünyanın gerektiği vakitte hazır olma yolunda ilerleyip ilerlemediğinden farklı bir soru” dedi. YGZ geldiğinde hazır olmanın, denetlemelere ve yapay zeka güvenliğine dair kültürün nasıl değiştiğine bağlı olacağını öne sürdü.
OpenAI son aylarda, yapay zekayla ilgili planlarına ve güvenliğe ne kadar önem verdiğine dair sorularla karşılaşmıştı. Şirket, yapay zekanın nasıl güvenli bir şekilde geliştirilebileceğini araştırmak için kâr amacı gütmeyen bir kuruluş olarak yola çıktığı halde ChatGPT’nin başarısı, büyük yatırımları ve yeni teknolojilerini kâr elde etmek üzere kullanmakla ilgili birtakım baskıları da beraberinde getirmişti.
Brundage, şirketten bazı projelerde çalışmaya zamanı olmaması ve amaçlarını büyük oranda gerçekleştirmesi de dahil olmak üzere bir dizi sebepten dolayı ayrıldığını söyledi. Taraflılıktan ve çıkar çatışmalarından uzak olacağı için dışarıdan daha kolay çalışacağını da belirtti.
Yapay Genel Zeka nedir?
Yapay Genel Zeka, insan zekası düzeyinde ya da insan zekasının üzerinde çok çeşitli görevleri yerine getirebilen ve teoride insan kontrolünden çıkması ihtimali olan bir sistemi tanımlamak için kullanılıyor.
İnsanlık, muazzam bir teknolojinin eşiğinde olabilir. Bu teknoloji o kadar devrimsel bir nitelikte olacaktır ki, yalnızca sihirden değil, belki de bir tanrıdan bile ayırt edilemeyecektir. Bu teknoloji, yapay genel zeka olarak bilinir. Yapay genel/süper zeka ya da güçlü yapay zeka (yazının ilerleyen kısımlarında çoğunlukla “yapay genel zeka”yı kullanacağız), bir insanın gerçekleştirebileceği herhangi bir entelektüel görevi anlayabilen ve öğrenebilen bir yapay zeka türüdür. Bu tür bir yapay zekanın, teknolojik bir tekilliğe (singularity) sebep olacağı düşünülmektedir (kimi zaman “yapay genel zeka” ve “teknolojik tekillik” kavramları eş anlamlı olarak da kullanılmaktadır).
Bir insandan ayırt edilemez hale gelebilir
YGZ, bir insanın yapabileceği herhangi bir zihinsel görevi başarıyla gerçekleştirebilecek makinenin zekası olarak özetleniyor ve bu açıdan GPT-5 için beklentiyi tavana çıkarıyor. Üretken yapıdaki yapay zekanın bir insandan ayırt edilemeyecek seviyeye gelmesini sağlamak kolay bir şey değil ancak altyapı şimdiden inanılmaz çalışıyor, bu yüzden kimse bir sonraki adım için “bu kesinlikle imkansız” tarzında bir yorum yapamıyor. Yazılım devi Microsoft’tan çok büyük maddi yatırım alan OpenAI, sürekli olarak büyüyen ekibiyle “korkulan” gerçek yapay zeka geleceğini başlatabilir.
John Carmack: Bilinçli yapay zeka sadece an meselesi
Yapay zekanın çeşitli biçimlerdeki gelişimi katlanarak hızlandı ve hızlanmaya devam ediyor. Efsanevi Doom programcısı John Carmack’e göre yapay zekanın insan beynini simüle edebilmesi an meselesi.
Ünlü bilgisayar programcısı ve yazılımcısı John Carmack‘in bir sonraki hedefi yapay genel zekaya (AGI) ulaşmak. Carmack, bunun sadece an meselesi olduğunu ifade ederken, mevcut yapay zekanın neredeyse her alanda büyük bir hızla geliştiğinin de altını çiziyor.
