AI mengkloning suara anak-anak dalam penipuan penculikan palsu
Seorang ibu mengatakan dia “100 persen” yakin dengan tiruan suara AI putrinya yang digunakan penipu dalam upaya penculikan palsu.
Jennifer DeStefano dari Arizona menerima telepon dari nomor tak dikenal dan mendengar apa yang dia yakini sebagai putrinya yang berusia 15 tahun, Brie, “terisak”.
Suara di ujung telepon berkata, “Bu, aku mengacau”, sebelum suara laki-laki mengambil alih dan melontarkan tuntutan yang mengancam.
“Pria ini menelepon, dan dia berkata, ‘dengarkan, saya sudah mendapatkan putrimu,’” kata DeStafano kepada program berita lokal WKYT.
Penculik yang terlihat jelas mengatakan kepada ibunya: “Panggil polisi, telepon siapa pun, saya akan memberinya obat, saya akan mengurusnya, dan saya akan mengantarnya ke Meksiko.”
Di latar belakang, DeStefano mengatakan dia bisa mendengar putrinya berkata “tolong aku, ibu, tolong bantu aku” dan menangis.
“Itu 100 persen suaranya,” kata Ms. DeStefano.
“Tidak pernah ada pertanyaan tentang siapa itu? Itu benar-benar suaranya, itu adalah nada suaranya, itulah cara dia menangis – aku tidak pernah ragu sedetik pun bahwa itu adalah dia. Itu adalah bagian aneh yang benar-benar membuatku sadar.”
Penculiknya menuntut $1 juta untuk pembebasan putrinya, sebelum menurunkan jumlahnya menjadi $50.000. Ibu DeStefano baru menyadari bahwa putrinya selamat setelah seorang teman menelepon suaminya dan memastikan bahwa dia selamat.
Penipu tersebut, yang masih diselidiki polisi, tampaknya telah menggunakan teknologi kloning suara dengan kecerdasan buatan, yang semakin mampu meniru suara orang dalam beberapa tahun terakhir.
Ini juga relatif mudah untuk diakses dan digunakan, dengan alat AI tersedia secara gratis di Internet.
Suara yang dihasilkan AI telah digunakan dalam film untuk memerankan kembali aktor seperti James Earl Jones yang memerankan karakter asli Darth Vader di film tersebut. Perang Bintang waralaba.
Program kloning suara yang menggunakan kecerdasan buatan untuk meniru suara manusia menjadi semakin populer dan kuat
(iStock/Getty Gambar)
Ini juga disebut-sebut sebagai cara bagi penulis untuk memproduksi buku audio tanpa menghabiskan waktu berjam-jam di studio untuk membaca karya mereka.
Teknologi ini juga menimbulkan kekhawatiran bahwa teknologi ini dapat disalahgunakan oleh para penipu atau orang-orang yang mencoba membuat video palsu, dan salah satu klon suara memperingatkan bahwa teknologi tersebut bisa “berbahaya jika berada di tangan yang salah”.
Dalam siaran pers tahun lalu, perusahaan Respeecher mengatakan: “Perhatian luas dan penerimaan terhadap teknologi palsu akan mempercepat kebutuhan untuk mengatur penggunaan teknologi tersebut.”