OpenAI, yapay zekayı dizginlemek için bir ekip kuruyor

Süper zeki yapay zeka insanlığın sonu olabilir
Yorumlar

Metin Akpınar

Teknoloji Editörü

OpenAI, yapay zekayı dizginlemek için bir ekip kuruyor — **OpenAI**, **ChatGPT**’yi piyasaya sürdüğünden bu yana aslında pek çok şey değişti. Yapay zekanın etkisi en küçük yerlerde bile hissedilmeye başlanmışken hükümetler ise gerekli yasal düzenlemeler üzerinde çalışıyor. Bunun yanında OpenAI, **“süper zeki”** yapay zekanın risklerini yönetmek için özel bir ekip oluşturuyor.

Süper zeki yapay zeka insanlığın sonu olabilir

Süper zekâ, en yetenekli ve zeki insandan bile daha akıllı olan ve önceki nesil bazı modeller gibi tek bir alan yerine birden fazla uzmanlık alanında başarılı olan varsayımsal bir yapay zekâ modeli anlamına geliyor. OpenAI, böyle bir modelin on yılın sonundan önce ortaya çıkabileceğine inanıyor. Firmaya göre süper zekâ, insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacak ve dünyanın en önemli sorunlarının çoğunu çözmemize yardımcı olacak. Öte yandan riskler de yok değil: "Ancak süper zekânın muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta insan neslinin tükenmesine yol açabilir."

Yeni ekip OpenAI Baş Bilim İnsanı Ilya Sutskever ve araştırma laboratuarının uyum başkanı Jan Leike tarafından yönetilecek. Buna ek olarak OpenAI, halihazırda elinde tuttuğu işlem gücünün yüzde 20'sini bu girişime ayıracağını söyledi. Firma aynı zamanda bazı testlere de başlamış vaziyette. Yapılan açıklamada "Ön deneylerde umut vaat eden pek çok fikir var, ilerleme için giderek daha kullanışlı ölçütlere sahibiz ve bu sorunların çoğunu deneysel olarak incelemek için bugünün modellerini kullanabiliriz." denildi.

Her ne kadar OpenAI, gelecekteki çok zeki yapay zekalara önlem almak için istekli olsa da halihazırda mevcutta bulunan modellerin risklerinin ve sorunlarının de giderilmesi gerekiyor. Bu problemlerin en başında telif hakkı politikası ve halüsinasyonlar yer alıyor. Son olarak firmanın gelecekte yeni laboratuvarı hakkında bir yol haritası yayınlayacağını da sözlerimize ekleyelim.

Kaynakça https://www.engadget.com/openai-is-forming-a-team-to-rein-in-superintelligent-ai-214333388.html https://openai.com/blog/introducing-superalignment