Yapay zekanın dev isimlerinden 22 kelimelik "yok alma" uyarısı

22 kelimelik net uyarı
Yorumlar

Metin Akpınar

Teknoloji Editörü

Yapay zekanın dev isimlerinden 22 kelimelik 'yok alma' uyarısı — Bir grup üst düzey yapay zeka araştırmacısı, mühendisi ve CEO'su, yapay zekanın insanlık için oluşturduğuna inandıkları varoluşsal tehdit hakkında yeni bir uyarı yayınladı. Bildiriyi imzalayanlar arasında **Google DeepMind** CEO'su Demis Hassabis ve **ChatGPT**’yi yapan firma olan **OpenAI**’ın CEO'su Sam Altman da bulunuyor.

22 kelimelik net uyarı

Mümkün olduğunca geniş kitlelerce kabul edilebilir olması için kısaltılan 22 kelimelik açıklama ise şu şekilde: "Yapay zeka kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır."

San Francisco merkezli kâr amacı gütmeyen bir kuruluş olan Center for AI Safety tarafından yayınlanan bu bildiri, Google DeepMind CEO'su Demis Hassabis ve OpenAI CEO'su Sam Altman'ın yanı sıra, AI üzerine yaptıkları çalışmalarla 2018 Turing Ödülü'nü ("bilgisayarın Nobel Ödülü" olarak da anılır) kazanan üç AI araştırmacısından ikisi olan Geoffrey Hinton ve Youshua Bengio gibi isimler tarafından da imzalandı. Bu ödülü kazanan ve henüz bildiriyi imzalamayan üçüncü isim Yann LeCun, hâlihazırda Facebook'un ana şirketi Meta'da baş yapay zeka bilimcisi olarak çalışıyor.

Birçok uzman, gelecekte öngörülen zeka kazanımlarının kanıtı olarak büyük dil modelleri gibi sistemlerdeki hızlı gelişmelere işaret ediyor. Yapay zeka sistemleri belirli bir gelişmişlik düzeyine ulaştığında, eylemlerini kontrol etmenin imkansız hale gelebileceğini söylüyorlar. Bu endişelere katılmayan diğer kesim ise AI sistemlerinin, örneğin araba kullanmak gibi nispeten sıradan görevleri bile yerine getirmedeki yetersizliğine işaret ediyorlar. Ancak her iki kesim de halihazırda mevcut sistemlerinin yanlış bilgi ve dezenformasyonun yayılmasını kolaylaştırdığı konusunda hemfikir.