Yapay zeka teknolojileri her geçen gün daha da gelişiyor olsa da tam olarak nasıl çalıştıklarını kimse bilmiyor. Anthropic CEO’su, tarihte bunun benzerinin olmadığını söylüyor.
Şu anda yapay zeka alanında en dikkat çekici işleri ortaya koyan birkaç şirketten biri olan Anthropic, özellikle yapay zekanın nasıl çalıştığını anlamak için önemli çalışmalar yürütüyor. Hatırlarsanız şirket geçtiğimiz ay bir açıklama yaparak “yapay zekanın kara kutusunu” 2027 yılına kadar açmayı hedeflediklerini duyurmuştu.
Bir yandan bu yöndeki çalışmalarını sürdüren şirket, diğer yandan bu kara kutu açılana kadar ortadan kalkmayacak belirsizlik konusunda teknoloji dünyasını uyarıyor.
“Üretken yapay zekanın yaptığı seçimleri neden yaptığını bilmiyoruz”
Anthropic CEO’su Dario Amodei, bu hafta bu konuda bir makale yayınladı. Bu makalede yapay zekanın gizemli doğasına bir kez daha dikkat çeken Amodei, bu gizemi ortadan kaldırmak için “AI’ın MR’ını çekecek” bir sistem üzerinde çalıştıklarını ifade etti. Ancak Amodei’ye bunu gerçekleştirene kadar yapay zeka konusunda son derece temkinli olmak gerekiyor. Çünkü şu anda yapay zekanın nasıl çalıştığını kimse bilmiyor.
Amodei bunu şöyle anlatıyor:
“Üretken bir yapay zeka sistemi, finansal bir belgeyi özetlemek gibi bir şey yaptığında, yaptığı seçimleri neden yaptığını, neden belirli kelimeleri diğerlerine tercih ettiğini veya genellikle doğru olsa da neden ara sıra hata yaptığını kesin olarak bilmiyoruz.”
Anthropic CEO’su: Teknoloji tarihinde böyle bir şey hiç yaşanmadı
Dario Amodei, bu teknoloji yaratan insanların bile nasıl çalıştığını tam olarak anlamıyor olmasının endişe verici olduğunu düşünüyor. Anthropic CEO’su, teknoloji tarihinde böyle bir şeyin daha önce hiç yaşanmadığına dikkat çekiyor.
İlk bilgisayarı, ilk telefonu ya da ilk nükleer bombasını geliştiren kişiler, bunun tam olarak nasıl çalıştığını gayet iyi biliyordu. Yapay zekanın yaratıcıları ise yapay zekanın neler yapabildiğini veya bunu daha iyi yapabilmek için neye ihityaç duyduğunu bilseler de temelde yaptığı şeyleri nasıl ya da neden belirli bir şekilde yaptığını bilmiyorlar.
Kaynak: Anthropic CEO Admits We Have No Idea How AI Works – Futurism, DonanımHaber
