blog.thelawofficeofdwightday.com

Apa skenario kiamat yang paling keren? Saya sendiri cukup menyukai zombie, tapi itu mungkin karena saya masih kuliah pada masa booming zombie yang hebat di akhir tahun 2000an, di mana mustahil untuk terlibat dengan media yang tidak memiliki semacam “mode zombie”. tidak punya. . Habiskan waktu lima tahun untuk bertanya kepada orang asing di area merokok di bar, “Hei, menurutmu bagaimana kamu bisa selamat dari kiamat zombie?” pada dasarnya adalah pelatihan angkatan laut milenial.

Runtuhnya peradaban secara perlahan yang kita alami saat ini mungkin merupakan versi paling tidak menarik dari Armageddon, jadi dengan senang hati saya laporkan bahwa hal ini akan segera diambil alih oleh skenario kiamat favorit saya yang kedua: robot pembunuh akan datang.

Setidaknya, itulah yang terjadi menurut Geoffrey Hinton, seorang pria yang sangat terkenal dengan karyanya di bidang kecerdasan buatan sehingga ia dikenal sebagai “bapak baptis AI”. Hinton baru-baru ini meninggalkan pekerjaannya di Google, tempat dia membantu mengembangkan teknologi dasar yang membuka jalan bagi sistem AI saat ini seperti ChatGPT. Dia berhenti dari pekerjaannya, seolah-olah untuk memperingatkan umat manusia tentang bahaya AI.

Hinton percaya bahwa dalam jangka pendek AI akan digunakan untuk menciptakan banyak gambar, video, dan teks palsu, sehingga masyarakat umum tidak dapat membedakan antara fakta dan fiksi. Namun, dalam jangka panjang, hal ini bisa menjadi lebih buruk, seperti yang dikatakan Hinton bahwa teknologi tersebut dapat mengarah pada masa depan di mana robot melampaui kecerdasan manusia dan pada akhirnya memutuskan untuk membunuh kita.

Akhirnya, kabar baik.

Saya tidak dapat berbicara mengenai keabsahan klaim Hinton mengenai yang terakhir, namun kita harus benar-benar prihatin dengan yang pertama. Kita sudah berjuang melawan “berita palsu” (yaitu propaganda yang tidak tahu malu) sebelum ada sistem yang bisa mengotomatisasinya. Bayangkan betapa buruknya jika bukan hanya orang-orang yang men-tweet informasi palsu atau situs berita cerdik yang menulis artikel berita yang sangat bias atau dibuat-buat, namun juga gambar dan video palsu yang tidak dapat dibedakan dari aslinya.

Ingat gambar yang beredar beberapa minggu lalu tentang Paus dengan jaket rapper bengkak besar? Saya pikir itu nyata selama dua hari penuh. Sekarang, saya sangat mudah tertipu, namun jika terus begini, teknologi ini akan cukup canggih untuk membodohi orang-orang yang tidak beriman dalam waktu singkat.

Tapi bagaimana dengan klaimnya tentang a Terminator-gaya masa depan di mana robot memburu kita untuk olahraga? Sejujurnya, walaupun kedengarannya gila, tidak ada yang lebih mengejutkan saya. Aturan yang berlaku selama 10 tahun terakhir sepertinya adalah: pikirkan hal terburuk dan paling tidak mungkin terjadi. Saya jamin, sesuatu yang lebih buruk pada akhirnya akan terjadi.

Bagian paling lucu dari pernyataan Hinton tentu saja adalah bagian yang ia sampaikan: “Gagasan bahwa benda-benda ini sebenarnya bisa menjadi lebih pintar daripada manusia – hanya sedikit orang yang mempercayainya. Tapi kebanyakan orang mengira jaraknya jauh. Dan saya pikir itu jauh sekali. Saya pikir itu 30 hingga 50 tahun lagi atau bahkan lebih lama lagi.”

Tunggu, Anda mengira skenario kiamat AI tinggal 30 tahun lagi, dan Anda tetap melanjutkannya? 30 tahun bukanlah waktu yang “jauh”! Ini bukan waktunya! Taman Jurassic keluar 30 tahun yang lalu!

Hinton bahkan bukan satu-satunya pakar AI yang percaya bahwa teknologi yang mereka bantu ciptakan pada akhirnya akan menghancurkan kita. Dalam penampilan podcast terbaru Paulus Christianoyang memimpin tim penyelarasan model bahasa di OpenAI, mengatakan dia menganggap “cukup serius” gagasan bahwa kecerdasan buatan akan memperbudak dan pada akhirnya menghancurkan umat manusia.

Jadi apa solusinya? Apakah kita melarang AI? Apakah kita mengeluarkan banyak undang-undang untuk mencoba mengaturnya? Tampaknya hal ini tidak mungkin terjadi, karena pembuat kebijakan kita belum menemukan cara untuk menghentikan perekrutan neo-Nazi di Twitter, atau mengorganisir kampanye kebencian terhadap individu yang tidak mereka setujui. Kami akan bersembunyi dari Skynet sementara pemerintah masih mencoba mencari tahu apakah memutuskan sambungan AssassinBot 3000 merupakan pelanggaran terhadap hak kebebasan berpendapat atau tidak.

Yang saya tahu adalah apakah kita akan mendapatkan hasil yang memuaskan atau tidak, dengan adanya tank siber dan menara laser yang sentimental, hal ini merupakan ancaman jangka pendek yang jauh lebih besar terhadap pasar kerja. Ini adalah sesuatu yang disinggung Hinton, tapi mungkin itu adalah hal yang mungkin paling menyentuh Anda, pembaca.

Ini pasti akan berdampak pada saya. Saya rasa saya tidak akan repot-repot mengerahkan seluruh energi saya untuk karier menulis jika saya tahu bahwa orang-orang sangat sedikit menghargai kualitas teks yang mereka konsumsi sehingga mereka dengan senang hati akan memasukkan pekerjaan itu ke dalam model bahasa AI dan tidak melakukan outsourcing.

Anda mungkin berpikir Anda aman, tetapi jika Anda bekerja di bidang yang dapat diserahkan ke algoritma, yakinlah bahwa pada akhirnya hal itu akan terjadi. AI tidak berhenti merokok, tidak melakukan pelecehan seksual terhadap rekan kerjanya, dan satu-satunya kompensasi yang dimintanya adalah informasi Anda yang manis dan manis.

Untuk saat ini, pertanyaan apakah robot akan datang untuk mengambil organ tubuh manusia yang lemah atau tidak, tidaklah relevan. Mereka pasti datang bekerja untuk Anda.