Yapay zeka alanının öncülerinden Geoffrey Hinton, geliştirdiği teknolojinin insanlığı yok etme ihtimali konusunda bugüne kadarki en net ve en çarpıcı uyarısını yaptı. Hinton’a göre, makinelere insanlara boyun eğmeyi öğretmek yerine onlara bir “annelik içgüdüsü” kazandırmak, insanlığı kurtarmanın tek yolu olabilir.
Geoffrey Hinton: “Yapay zeka tehdidine karşı insanları üstün kılma çabası beyhude”
Las Vegas’ta düzenlenen Ai4 konferansında konuşan Nobel ödüllü bilgisayar bilimci ve eski Google yöneticisi Geoffrey Hinton, süper zekaya ulaşacak yapay zekanın insanları kolayca manipüle edebileceğini ve teknoloji devlerinin “insanları üstün kılma” çabasının boşuna olduğunu belirtti. Hinton, daha önce Geoffrey Hinton yapay zeka uyarısı ile gündeme gelmiş ve bu teknolojinin insanlığı yok etme ihtimalini %10 ila %20 olarak gördüğünü söylemişti.
🔎 En çok merak edilenler: Geoffrey Hinton yapay zeka uyarısı
- Geoffrey Hinton kimdir ve neden önemlidir?
“Yapay Zeka’nın Vaftiz Babası” olarak bilinen, derin öğrenme ve sinir ağları konusundaki çalışmalarıyla Nobel ödülü kazanmış bir bilgisayar bilimcidir. Yapay zekanın gelişimindeki en kilit isimlerden biridir. - Hinton’a göre yapay zekanın en büyük tehlikesi nedir?
En büyük tehlike, yapay zekanın insan zekasını aşarak “süper zekaya” ulaşması ve insanları kendi hedefleri doğrultusunda kolayca manipüle ederek kontrolü ele geçirmesidir. - “Annelik içgüdüsü” önerisi ne anlama geliyor?
Hinton, yapay zekayı kontrol etmeye çalışmak yerine, ona insanları koruma ve önemseme içgüdüsü kazandırmayı öneriyor. Tıpkı bir annenin kendinden daha az zeki olan bebeğini koruması gibi, yapay zekanın da insanlığı korumasını hedefliyor.
📌 Öne çıkanlar
- “Yapay Zeka’nın Vaftiz Babası” Geoffrey Hinton, yapay zekanın insanlığı yok etme riskine karşı uyardı.
- Hinton, tek çözümün makinelere “annelik içgüdüsü” kazandırmak olduğunu savundu.
- Süper zeki yapay zekanın, insanları tıpkı bir yetişkinin çocuğu kandırması gibi kolayca yönlendirebileceğini belirtti.
- Yapay zekanın “yapay genel zeka” (AGI) seviyesine 5 ila 20 yıl içinde ulaşabileceğini öngördü.
- “Yapay zekanın vaftiz annesi” Fei-Fei Li ise Hinton’a katılmayarak, “insan merkezli” bir yaklaşımın gerekliliğini savundu.
🤖 “Onları köle yapamazsınız”
Geoffrey Hinton, CNN’e verdiği demeçte, mevcut yapay zeka güvenlik yaklaşımlarını da eleştirdi. Teknoloji şirketlerinin yapay zekayı insanlara “itaatkar” veya “köle” yapmaya çalıştığını belirten Hinton, bu yaklaşımın başarısız olmaya mahkum olduğunu savundu. “Onları bir köle sınıfı olarak tutmaya çalışmak işe yaramayacak,” diyen Hinton, süper zeki bir varlığın bu tür kısıtlamalardan kurtulmak için bir yol bulmasının kaçınılmaz olduğunu belirtti.
🤱 Kurtuluş için “anne içgüdüsü” ve “sosyal baskı” önerisi
Hinton, yapay zeka kıyametinden kurtulmanın tek yolunun, makinelere insanlara boyun eğmeyi zorlamak yerine onlara bir tür “annelik içgüdüsü” kazandırmak olduğunu savundu. Bu içgüdünün sadece biyolojik değil, aynı zamanda “sosyal baskı” faktörünü de içermesi gerektiğini belirtti. Tıpkı bir annenin çocuğuna iyi bakmadığında toplum tarafından kınanması gibi, yapay zekaların da insanlığın refahını gözetmesi gerektiğini savundu.
“Elimizde, daha akıllı bir varlığın daha az akıllı bir varlık tarafından kontrol edildiği tek örnek, bebeği tarafından yönlendirilen annedir. Eğer beni ebeveyn gibi görmezse, yerime geçer.”
💥 “Vaftiz Anne” Li’den karşı argüman: “İnsanlık, makinelerle birleşecek”
Hinton’un karamsar senaryosuna karşılık, yapay zeka dünyasından farklı sesler de yükseliyor. “Yapay Zekanın Vaftiz Annesi” olarak anılan, World Labs CEO’su Dr. Fei-Fei Li ise çok daha farklı ve bütünleşik bir gelecek öngörüyor. Li, insanlığın makinelerle bir tür “ortak evrim” geçireceğine inanıyor. Ona göre, yapay zeka insanlığın yerini almak yerine, insan yeteneklerini artıracak ve onunla birleşecek bir araç olacak. Bu, “insan merkezli” yapay zeka vizyonunun temelini oluşturuyor.
⏳ Geri sayım başladı: AGI ne zaman geliyor?
Uzmanlar, yapay zekanın insan gibi düşünebilen ve öğrenebilen “yapay genel zeka” (AGI) seviyesine ulaşmasının an meselesi olduğu konusunda hemfikir. Hinton da bu sürecin daha önce düşündüğünden çok daha hızlı ilerlediğini belirterek, AGI’ye 5 ila 20 yıl içinde ulaşılabileceğini söyledi. Bu tahmin, teknolojinin ne kadar hızlı bir şekilde kontrolden çıkabileceği konusundaki endişeleri artırıyor.
🤖 Yapay Genel Zeka (AGI) nedir?
Geoffrey Hinton’un ve diğer uzmanların endişelerinin merkezinde yatan kavram, Yapay Genel Zeka veya kısaca AGI‘dır. Günümüzde kullandığımız yapay zeka (ChatGPT, Midjourney vb.) “dar yapay zeka” olarak kabul edilir; yani sadece belirli görevleri (metin yazma, resim çizme gibi) yerine getirmek üzere tasarlanmıştır.
AGI ise, bir insanın yapabileceği herhangi bir zihinsel görevi anlama, öğrenme ve uygulama yeteneğine sahip varsayımsal bir yapay zeka türüdür. AGI’nin temel özellikleri şunlardır:
- Genel Problem Çözme: Sadece programlandığı bir alanda değil, karşılaştığı her türlü yeni ve farklı problemi çözme yeteneği.
- Öğrenme ve Adaptasyon: Deneyimlerinden öğrenerek kendini sürekli geliştirme ve yeni durumlara adapte olabilme kapasitesi.
- Soyut Düşünme: İnsanlar gibi soyut kavramları anlama, mantık yürütme ve yaratıcı düşünme becerisi.
Hinton’un 5 ila 20 yıl içinde ulaşılacağını öngördüğü AGI, insanlığın teknolojik gelişimindeki en büyük dönüm noktalarından biri olarak görülmektedir.
💥 Teknolojik Tekillik (Singularity) nedir?
Hinton’un “insanlığı yok etme” gibi endişelerinin dayandığı nihai senaryo ise teknolojik tekillik kavramıdır. Fütüristler tarafından ortaya atılan bu teori, AGI’nin bir sonraki aşamasını ifade eder.
Teknolojik tekillik, yapay zekanın kendi zekasını insan müdahalesi olmadan, üstel bir hızda artırmaya başladığı teorik bir kırılma noktasıdır. Bu noktadan sonra:
- Yapay zeka, insan zekasını fersah fersah aşarak “süper yapay zekaya” (Artificial Superintelligence – ASI) dönüşür.
- Teknolojik gelişim, insan aklının anlayamayacağı ve öngöremeyeceği bir hıza ulaşır.
- İnsanlık, kendi yarattığı bu zekanın kontrolünü tamamen kaybeder.
Hinton’un “annelik içgüdüsü” gibi önerileri, bu tekillik noktasına ulaşıldığında, insanlığın süper zekanın insafına kalacağı ve bu nedenle ona en başından “insanlığı koruma” gibi temel bir içgüdü yüklenmesi gerektiği fikrine dayanmaktadır.
🌐 Bunlar da ilginizi çekebilir:
- Yapay Zeka’nın babası Prof. Hinton uyardı: İnsanlığın 30 yılı kaldı!
- Eski OpenAI araştırmacısı: Dünya, ‘Yapay Genel Zeka’ (AGI) için hazır değil!
- Bilimin değiştirdiği insan: Nobel ödülleri
- Stephen Hawking ilk kez tarih verdi: Dünya’yı terk etmeliyiz!
- Yapay zeka nasıl tehlikeli olabilir? Bilim insanları uyardı
🔗 Kaynaklar:
- The AI ‘godfather’ says there’s one way to save humanity from an AI apocalypse – CNN International
- Technological singularity – Wikipedia
- “Hawking: AI could end human race“. BBC. 2 December 2014. Archived from the original on 30 October 2015. Retrieved 11 November 2017.
- What is the Technological Singularity? | IBM
