OpenAI yakasında sular durulmuyor. Şimdi de şirketin ‘çalışanlar arasında güvenlik endişelerine neden olacak kadar güçlü’ bir sistem üzerinde çalıştığı bilgisi basına yansıdı. Sam Altman’ın kovulma nedeni ‘Q Star’ kod adlı bir Yapay Genel Zeka (AGI) modeli miydi?
Guardian’ın aktardığı bilgiye göre, bu yapay zeka modeli bazı OpenAI araştırmacıları arasında öyle bir endişe yarattı ki, yönetim kuruluna bir mektup yazarak insanlığı tehdit edebileceği uyarısında bulundular.
Bu mektubun CEO Sam Altman’ın kovulmasına yol açan şikayet listesinde yer aldığı, kilit rol oynadığı ve görevden alınma sürecini hızlandırdığı söyleniyor. Mektubu yazan personelin yorum taleplerine yanıt vermediği aktarılan bilgiler arasında.
Kod adı: Q Star
Teknoloji haber sitesi Information’a göre Q* adı verilen (ve ‘Q Star’ olarak telaffuz edilen) model basit matematik problemlerini çözebiliyordu ve sistemin arkasındaki gelişim hızı bazı güvenlik araştırmacılarını alarma geçirdi. “Peki ne var bunda?” dediğinizi duyar gibiyiz. Zira ilkokul düzeyinde matematik problemleri çözmek pek etkileyici görünmeyebilir. Ancak The Verge’in haberine göre araştırmacılar bunun yapay genel zeka (AGI) yaratmaya yönelik bir adım olabileceğini düşünüyor. Ve pek çok uzman OpenAI gibi şirketlerin AGI geliştirme yolunda çok hızlı ilerlediğinden endişe ediyor.
Artificial General Intelligence (AGI), insan zekası düzeyinde ya da insan zekasının üzerinde çok çeşitli görevleri yerine getirebilen ve teoride insan kontrolünden çıkması ihtimali olan bir sistemi tanımlamak için kullanılıyor.
Surrey Üniversitesi İnsan Merkezli Yapay Zeka Enstitüsü’nden Andrew Rogoyski, matematik çözen büyük bir dil modelinin (LLM) varlığının bir dönüm noktası olacağını söylüyor ve şöyle devam ediyor: “LLM’lerin matematik yeteneği, ileriye doğru atılmış büyük bir adım anlamına geliyor ve YZ’lerin yepyeni bir analitik yetenekler yelpazesi sunmasına olanak tanıyor.”
Öte yandan konuyla ilgili (yine ismi verilemeyen) bir başka kişi The Verge‘e yaptığı açıklamada, yönetim kurulunun böyle bir mektup almadığını ve Altman’ın kovulmasında şirketin kaydettiği ilerlemenin rol oynamadığını söylüyor.
Information‘ın ismini açıklamadığı ve ‘konuya aşina’ demekle yetindiği bir kişiye göre, bazı OpenAI çalışanları Altman’ın bu konuşmasında, şirketin çok daha güçlü YZ modelleri geliştirmesine olanak tanıyacak bir yeniliğe atıfta bulunduğuna inanıyor.
