OpenAI, “tehlikeli yapay zeka” ile mücadelede sözünü tutmadı

OpenAI sözünü tutmadı
OpenAI, istifa edenleri susturuyor mu?
Yorumlar

Metin Akpınar

Teknoloji Editörü

OpenAI, “tehlikeli yapay zeka” ile mücadelede sözünü tutmadı — OpenAI, geçtiğimiz "süper zeki" yapay zeka sistemlerini yönetmek ve yönlendirmekten sorumlu **Superalignment** ekibini kurmuştu. Firma, bu hedef doğrultusunda ekibin, şirketin **bilgi işlem kaynaklarının yüzde 20’si** gibi ciddi bir bölümünü kullanabileceği sözünü vermişti. Ancak aradan 1 yıl geçmeden Superalignment ekibinin başındaki Jan Leike dahil olmak üzere bir dizi istifa yaşandı ve **ekip dağıtıldı**. Fortune tarafından yayınlanan yeni rapor ise OpenAI’ın **hiçbir zaman sözünü tutmadığını** ortaya koyuyor.

OpenAI sözünü tutmadı

Çok sayıda kaynağa dayandırılan bilgilere göre OpenAI, ekibe bilgi işlem gücünün yüzde 20'sini sağlama taahhüdünü hiçbir zaman yerine getirmedi. Hatta ekibin elindeki işlem gücü, bu eşiğe yaklaşmadı bile. Aktarılanlara göre OpenAI liderleri, ekibin taleplerini de defalarca geri çevirdi.

Detaylarına geçtiğimiz günlerde yer verdiğimiz Jan Leike istifasında, çalışanların güvenlik nedeniyle istifa ettiklerini aktarmıştık. Leike, Superalignment ekibinin liderlerindendi. Bu ekibi ise şirketin kurucu oraklarından Ilya Sutskever kurmuştu; Sutskever da şirketten geçtiğimiz hafta ayrıldı.

Hatırlanacağı üzere OpenAI an itibariyle Scarlett Johansson ve ChatGPT’deki “Sky” sesi üzerinde bir tartışmanın içinde. Özetlemek gerekirse; OpenAI, Johansson’ın sesini Sky’da kullanmak için ünlü aktristen izin istemiş ancak Johansson bunu geçtiğimiz Eylül ayında reddetmiş. Ardından geçtiğimiz günlerde yapılan OpenAI etkinliği öncesinde CEO Sam Altman, Johansson’dan bir kez daha izin istemiş. Johansson, şimdi OpenAI’ın kendi sesini izni olmadan kullandıklarını söylüyor. OpenAI ise Sky’ın sesinin Johansson’a ait olmadığını, bu sesin, adını açıklamadıkları profesyonel bir aktrise ait olduğunu söylüyor.

OpenAI, istifa edenleri susturuyor mu?

OpenAI, geçtiğimiz yıl Superalignment ekibini tanıtırken “Süper Zeka” eşiğine ulaşan yapay zekanın insanlar için varoluşsal bir risk oluşturabileceğini söylemişti. Süperzeka, gelecekte tüm insanların toplamından daha akıllı olacak varsayımsal bir yapay zeka sistemi fikrini ifade ediyor. Yapay Genel Zeka veya AGI’den daha üst bir zeka anlamına geliyor. Superalignment, bu sistemin riskleriyle mücadele edecek veya önleyecek çözümleri araştırıyordu veya araştırması gerekiyordu.

Yeni rapor gösteriyor ki Superalignment ekibi, bunun için gerekli olan o bahsedilen yüzde 20’lik kaynağı alamamış. Esasında bu “yüzde 20 bilgi işlem gücü” söyleminin bile çok havada olduğu, tam olarak neyi ifade ettiği de bilinmiyor. Her halükarda kaynaklar, bu bilgi işlem gücüne erişememiş, ek GPU kapasitesi istemleri de düzenli olarak yöneticiler tarafından reddedilmiş. Aslında şirket hakkında bu iddialar Jan Leike’nin istifası sonrası X’te yazdığı gönderide doğrulanıyor: Leike, "güvenlik kültürü ve süreçlerinin parlak ürünler karşısında arka planda kaldığını" söylemişti.

İlginç bir şekilde Fortune'a konuşan kişiler işlerini veya şirketteki kazanılmış sermayelerini kaybetmekten korktukları için bilgileri anonim olarak verdi. Belirtilenlere göre OpenAI'dan ayrılan çalışanlar, şirketi kamuoyu önünde eleştirmeleri halinde şirketin kazanılmış öz sermayelerini geri alabileceğini söyleyen katı bir kuralı içeren ayrılık sözleşmesini imzalamaya zorlandılar. CEO Altman ise bu hükümden haberi olmadığını ve bu durumdan "gerçekten utanç duyduğunu" belirtti. Ayrıca OpenAI'ın hiçbir zaman bu maddeyi uygulamaya ve kimsenin kazanılmış sermayesini geri almaya çalışmadığını söyledi.