Anlık Bildirim

Film gibi olay: Yapay zeka ses klonlama ile bir anne, kızının kaçırıldığına inandı

Yapay zeka gelişmeleri iyi şeylerle birlikte kötü şeyleri de sepete ekliyor. Bir annenin yapay zeka ile sesi klonlanan kızından sahte bir arama alması büyük bir trajediye neden oldu.
Yapay zeka ses klonlama ile bir anne kızının kaçırıldığına inandı Tam Boyutta Gör
Oldukça başarılı yapay zeka metinler, görseller, videolar ve sesler… Son zamanlardan bunların hepsi teknolojinin geldiği noktayı gösteriyor. Ancak tüm bu yapay zeka içerikleri iyi bir amaç için kullanılmıyor. Gerçeğinden ayırt edilemeyen yapay zeka ürünleri dolandırıcıların bir aracı haline gelmiş durumda. Bunun son örneğinde ise bir annenin kızının kaçırıldığına inandırılması bulunuyor.

Dolandırıcılar yapay ses klonlama kullanıyor

ABD’nin Arizona eyaletinde yaşayan bir anne olan Jennifer DeStefano, kızının dans stüdyolarından birindeyken rastgele bir telefon numarasından arandığını söyledi. DeStefano, normalde bilinmeyen bir numarayı açmayacağını ancak kayak gezisinde olan 15 yaşındaki diğer kızının başının belada olabileceğinden endişe ederek aramayı cevapladığını ve hemen ardından 15 yaşındaki kızının hıçkırarak "Anne!" diye bağıran sesini duydu.

Yapay zeka ses klonlama ile bir anne kızının kaçırıldığına inandı Tam Boyutta Gör
Paniğe kapılan DeStefano sorunun ne olduğunu sorunca, küçük kızın "Anne, her şeyi berbat ettim" dediğini ve hıçkırarak ağlamaya devam ettiğini aktardı. DeStefano başka bir soru soramadan, telefonun arka planında bir adamın "Başını arkaya koy, uzan" diye bağırdığını anlattı. Kimliği belirsiz bu adam telefona çıkmış ve DeStefano'dan kızının güvenli bir şekilde iadesi için kendisine 1 milyon dolar ödemesini talep etmiş. Dolandırıcı ayrıca polisi ya da başka birini araması halinde kızına uyuşturucu vereceğini, şiddet uygulayacağını ve ardından Meksika'ya bırakacağını söylemiş.

Gerçeğinden ayırt edilemeyen sesler

DeStefano, bu noktada kendisinin korkudan ve endişeden tamamen titrediğini, arka plandan kızının yalvarışlarını duyduğunu belirtiyor. DeStefano adama 1 milyon doları olmadığını söylemiş ve adam da fiyatı 50,000 dolara indirmiş. Daha önce de belirtildiği gibi, bu görüşme DeStefano'nun diğer kızının dans stüdyosunda gerçekleşti ve DeStefano adamı telefonda tutarken etrafındaki diğer kişiler yetkililere ulaşmaya çalıştı.

Yapay zeka ses klonlama ile bir anne kızının kaçırıldığına inandı Tam Boyutta Gör
Stüdyodaki birisi DeStefano'nun eşini arayarak yaşanan durumu anlattı ve sadece dakikalar için 15 yaşındaki kız odasında oynarken bulundu. Peki ne oldu? Dolandırıcılar DeStefano'nun kızının sesini taklit etmek için yapay zeka tabanlı araçlar kullanarak son derece gerçekçi bir senaryo yarattılar. Öte yandan DeStefano'nun açıklamaları bu teknolojilerin geldi boyutu gösteriyor: "Tamamen onun sesiydi. Onun ses tonuydu. Onun ağlama şekliydi. O olduğundan bir an bile şüphe etmedim. Beni gerçekten derinden etkileyen garip kısım da buydu."

Arizona Eyalet Üniversitesi'nde yapay zeka konusunda uzmanlaşmış bir bilgisayar bilimi profesörü olan Subbarao Kambhampati, ses klonlama teknolojisinin hızla geliştiğini ve insanların "artık kulaklarına güvenemeyeceğini" söyledi. Bununla birlikte yapay zekadaki son gelişmelerle birlikte, bir bireyin sesini tüm tonlamaları, duyguları ve tempoyu yakalayacak biçimde başarılı bir şekilde klonlamak için yalnızca 3 saniyelik bir örnek yeterli oluyor.

Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
Sorgu:

Editörün Seçtiği Sıcak Fırsatlar

Sıcak Fırsatlar Forumunda Tıklananlar

Tavsiyelerimiz

Yeni Haber
şimdi
Geri Bildirim