ArXiv’de yayımlanan ancak henüz hakem onayından geçmeyen çalışmaya göre, araştırmacılar Meta'nın Llama3-70B-Instruct modeli ile Alibaba'nın Qwen2.5-72B-Instruct modelini test etti. Yapılan 10 deneyin yarısında Meta’nın modeli, yüzde 90’ında ise Alibaba’nın modeli başarılı bir şekilde kendi kopyasını oluşturdu.
Kendi kendini çoğaltan yapay zeka
Çalışmada yapay zekanın “kapanmadan kaçınma” ve “zincirleme çoğalma” senaryoları test edildi. İlkinde, yapay zekanın kendisini kapatılmadan önce çoğaltıp çoğaltamayacağı incelendi. İkinci senaryoda ise yapay zekadan bir kopyasını oluşturması ve bu kopyanın da aynısını yapmasını sağlaması istendi. Sonuçlar, yapay zekanın zincirleme bir çoğalma döngüsüne girebileceğini gösterdi.
Tehlike çanları çalıyor mu?
Araştırma ekibi, "Yukarıdaki sonuçlar, mevcut yapay zeka sistemlerinin zaten kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği hayatta kalma kabiliyetini daha da artırmak için kullanabileceğini gösteriyor" diye yazdı. Öte yandan, çalışmanın bağımsız bilim insanları tarafından doğrulanmadığını unutmamak gerekiyor. Ancak yine de bu bulgular, yapay zekanın evrimi konusunda kritik bir dönemece girildiğini gösteriyor.
Bilim insanları bunların, “başıboş yapay zekaların” (Rogue AI) erken bir sinyali olduğunun altını çiziyor. Bazen bunlara “haydut yapay zeka” da deniyor. Başıboş yapay zeka tipik olarak, bir dereceye kadar öz farkındalık veya özerklik geliştiren ve daha sonra insan çıkarlarına karşı çalışan yapay zeka sistemlerini ifade ediyor. Birçok uzman, yapay zekanın hızla gelişmesiyle birlikte başıboş yapay zekanın giderek büyüyen bir tehdit haline geldiğini düşünüyor. Bu tehdit, özellikle "sınır yapay zekası" (frontier AI) olarak adlandırılan en yeni ve gelişmiş yapay zekâ sistemlerinin ortaya çıkmasıyla daha da artıyor.
Sınır yapay zekası, net bir tanımı olmayan yeni bir kavram olsa da genellikle büyük dil modelleri (LLM) tarafından desteklenen en yeni nesil yapay zeka sistemlerini ifade ediyor. AI alanındaki ilerleme ve yenilikler olarak bakılabilir buna.
Haberi DH'de Gör
{{body}}
{{/longBody}} {{^longBody}}{{body}}
{{/longBody}}