Film gibi olay: Yapay zeka ses klonlama ile bir anne, kızının kaçırıldığına inandı
Yapay zeka gelişmeleri iyi şeylerle birlikte kötü şeyleri de sepete ekliyor. Bir annenin yapay zeka ile sesi klonlanan kızından sahte bir arama alması büyük bir trajediye neden oldu.
Oldukça başarılı yapay zeka metinler, görseller, videolar ve sesler… Son zamanlardan bunların hepsi teknolojinin geldiği noktayı gösteriyor. Ancak tüm bu yapay zeka içerikleri iyi bir amaç için kullanılmıyor. Gerçeğinden ayırt edilemeyen yapay zeka ürünleri dolandırıcıların bir aracı haline gelmiş durumda. Bunun son örneğinde ise bir annenin kızının kaçırıldığına inandırılması bulunuyor.
Dolandırıcılar yapay ses klonlama kullanıyor
ABD’nin Arizona eyaletinde yaşayan bir anne olan Jennifer DeStefano, kızının dans stüdyolarından birindeyken rastgele bir telefon numarasından arandığını söyledi. DeStefano, normalde bilinmeyen bir numarayı açmayacağını ancak kayak gezisinde olan 15 yaşındaki diğer kızının başının belada olabileceğinden endişe ederek aramayı cevapladığını ve hemen ardından 15 yaşındaki kızının hıçkırarak "Anne!" diye bağıran sesini duydu.
Paniğe kapılan DeStefano sorunun ne olduğunu sorunca, küçük kızın "Anne, her şeyi berbat ettim" dediğini ve hıçkırarak ağlamaya devam ettiğini aktardı. DeStefano başka bir soru soramadan, telefonun arka planında bir adamın "Başını arkaya koy, uzan" diye bağırdığını anlattı. Kimliği belirsiz bu adam telefona çıkmış ve DeStefano'dan kızının güvenli bir şekilde iadesi için kendisine 1 milyon dolar ödemesini talep etmiş. Dolandırıcı ayrıca polisi ya da başka birini araması halinde kızına uyuşturucu vereceğini, şiddet uygulayacağını ve ardından Meksika'ya bırakacağını söylemiş.
DeStefano, bu noktada kendisinin korkudan ve endişeden tamamen titrediğini, arka plandan kızının yalvarışlarını duyduğunu belirtiyor. DeStefano adama 1 milyon doları olmadığını söylemiş ve adam da fiyatı 50,000 dolara indirmiş. Daha önce de belirtildiği gibi, bu görüşme DeStefano'nun diğer kızının dans stüdyosunda gerçekleşti ve DeStefano adamı telefonda tutarken etrafındaki diğer kişiler yetkililere ulaşmaya çalıştı.
Stüdyodaki birisi DeStefano'nun eşini arayarak yaşanan durumu anlattı ve sadece dakikalar için 15 yaşındaki kız odasında oynarken bulundu. Peki ne oldu? Dolandırıcılar DeStefano'nun kızının sesini taklit etmek için yapay zeka tabanlı araçlar kullanarak son derece gerçekçi bir senaryo yarattılar. Öte yandan DeStefano'nun açıklamaları bu teknolojilerin geldi boyutu gösteriyor: "Tamamen onun sesiydi. Onun ses tonuydu. Onun ağlama şekliydi. O olduğundan bir an bile şüphe etmedim. Beni gerçekten derinden etkileyen garip kısım da buydu."
Arizona Eyalet Üniversitesi'nde yapay zeka konusunda uzmanlaşmış bir bilgisayar bilimi profesörü olan Subbarao Kambhampati, ses klonlama teknolojisinin hızla geliştiğini ve insanların "artık kulaklarına güvenemeyeceğini" söyledi. Bununla birlikte yapay zekadaki son gelişmelerle birlikte, bir bireyin sesini tüm tonlamaları, duyguları ve tempoyu yakalayacak biçimde başarılı bir şekilde klonlamak için yalnızca 3 saniyelik bir örnek yeterli oluyor.
{{body}}
{{/longBody}} {{^longBody}}{{body}}
{{/longBody}}