Apa itu kecerdasan super? Bagaimana AI bisa memusnahkan umat manusia – dan mengapa bos ChatGPT bersiap menghadapi hari kiamat
Dalam ‘Fabel Burung Pipit yang Belum Selesai’, sekelompok burung kecil mempunyai rencana untuk menangkap telur burung hantu dan membesarkan anak burung tersebut sebagai pelayan mereka. “Betapa mudahnya hidup ini,” kata mereka, jika burung hantu bisa bekerja untuk mereka, dan mereka bisa menjalani kehidupan yang santai. Meskipun ada peringatan dari anggota kawanannya bahwa mereka harus memikirkan cara menjinakkan burung hantu terlebih dahulu sebelum memeliharanya, burung pipit mencurahkan seluruh upayanya untuk menangkap telur.
Cerita ini, sesuai judulnya, tidak ada habisnya. Penulisnya, filsuf Swedia Nick Bostrom, sengaja membiarkannya terbuka karena dia yakin umat manusia saat ini sedang dalam fase berburu telur dalam hal manusia super AI.
Dalam karya pentingnya tentang kecerdasan buatan, berjudul Superintelligence: Jalan, Bahaya, Strategi, profesor Universitas Oxford mengklaim bahwa AI dapat menghancurkan kita jika kita tidak cukup siap. Superintelligence, yang ia gambarkan sebagai kecerdasan buatan yang “jauh melebihi kinerja kognitif manusia di hampir semua bidang yang diminati”, mungkin jauh lebih dekat daripada yang disadari banyak orang, dan pakar AI dan tokoh industri terkemuka memperingatkan bahwa hal itu mungkin hanya terjadi dalam beberapa tahun ke depan. jauh
Pekan lalu, bos OpenAI Sam Altman, yang perusahaannya menciptakan ChatGPT, menggemakan buku Profesor Bostrom tahun 2014 dengan memperingatkan bahwa kemajuan teknologi AI yang tampak eksponensial dalam beberapa tahun terakhir berarti kedatangan superintelligence tidak bisa dihindari – dan kita harus mulai mempersiapkannya sebelum hal itu terjadi. sangat terlambat.
Pada hari Selasa, ia termasuk di antara para penandatangan pernyataan yang memperingatkan bahwa “mitigasi risiko kepunahan akibat AI harus menjadi prioritas global di samping risiko skala sosial lainnya seperti pandemi dan perang nuklir”.
Altman, yang perusahaannya memiliki chatbot AI yang merupakan aplikasi dengan pertumbuhan tercepat dalam sejarah, sebelumnya menggambarkan buku Profesor Bostrom sebagai “hal terbaik yang pernah saya lihat mengenai subjek ini”. Hanya setahun setelah membacanya, Altman mendirikan OpenAI bersama para pemimpin teknologi lain yang memiliki kepedulian serupa seperti Elon Musk dan Ilya Sutskever untuk lebih memahami dan memitigasi risiko kecerdasan buatan yang canggih.
Awalnya diluncurkan sebagai organisasi nirlaba, OpenAI telah berubah menjadi perusahaan AI swasta terkemuka – dan mungkin yang paling dekat untuk mencapai superintelligence.
Mr Altman percaya superintelligence memiliki potensi tidak hanya menawarkan kita kehidupan yang menyenangkan dengan melakukan sebagian besar pekerjaan kita, namun juga memegang kunci untuk menyembuhkan penyakit, menghilangkan penderitaan dan membawa umat manusia ke antarbintang untuk mengubah spesies.
Segala upaya untuk menghalangi kemajuannya, tulisnya minggu ini, akan “beresiko secara berlawanan dengan intuisi” dan akan memerlukan “sesuatu seperti rezim pengawasan global” yang hampir mustahil untuk diterapkan.
Sudah sulit untuk memahami apa yang ada dalam ‘pikiran’ alat AI yang tersedia saat ini, namun begitu kecerdasan super tercapai, tindakannya pun mungkin menjadi tidak dapat dipahami. Ia dapat membuat penemuan-penemuan yang tidak dapat kita pahami, atau membuat keputusan-keputusan yang tidak masuk akal bagi kita. Keterbatasan biologis dan evolusi otak yang terbuat dari bahan organik berarti kita mungkin memerlukan suatu bentuk antarmuka otak-komputer untuk mengimbanginya.
Jika dia tidak bisa bersaing dengan AI di era teknologi baru ini, Profesor Bostrom memperingatkan, umat manusia mungkin akan tergantikan sebagai bentuk kehidupan yang dominan di Bumi. Intelijen super kemudian dapat melihat kita sebagai orang yang tidak berguna dalam mencapai tujuannya sendiri. Jika hal tersebut terjadi, dan suatu bentuk AI telah menemukan cara untuk membajak semua utilitas dan teknologi yang kita andalkan – atau bahkan senjata nuklir yang kita miliki – maka tidak butuh waktu lama bagi AI untuk memusnahkan kita dari planet ini.
Skenario yang lebih ramah namun sama suramnya adalah bahwa kesenjangan kecerdasan antara kita dan AI akan berarti bahwa AI melihat kita dengan cara yang sama seperti kita melihat binatang. Dalam percakapan tahun 2015 antara Musk dan ilmuwan Neil deGrasse Tyson, mereka berteori bahwa AI akan memperlakukan kita seperti seekor labrador peliharaan. “Mereka akan menjamu kita,” kata Profesor Tyson. “Mereka akan menjaga orang-orang yang patuh dan menyingkirkan orang-orang yang melakukan kekerasan.”
Dalam upaya mencegah hal ini, Musk telah mendedikasikan sebagian dari kekayaannya yang sangat besar untuk mendanai startup chip otak bernama Neuralink. Perangkat ini telah diuji pada monyet, memungkinkan mereka bermain video game dengan pikiran mereka, dan tujuan utamanya adalah mengubah manusia menjadi bentuk superintelligence hybrid. (Para kritikus mencatat bahwa meskipun berhasil, teknologi ini juga akan menciptakan masyarakat biner yang terdiri dari mereka yang memiliki chip dan yang tidak memiliki chip.)
Sejak memutuskan hubungan dengan OpenAI, miliarder teknologi ini telah mengeluarkan beberapa peringatan tentang munculnya superintelligence. Pada bulan Maret, ia bergabung dengan lebih dari 1.000 peneliti dalam menyerukan moratorium pengembangan sistem AI yang kuat setidaknya selama enam bulan. Waktu tersebut harus digunakan untuk meneliti perlindungan AI, tulis mereka sebuah surat terbukauntuk mencegah suatu bencana.
Dibutuhkan konsensus yang tidak terduga dari perusahaan-perusahaan AI terkemuka di seluruh dunia, yang sebagian besarnya adalah organisasi nirlaba, agar jeda tersebut dapat memberikan dampak. Dan ketika OpenAI terus mempelopori pencarian telur burung hantu, tampaknya Altman setidaknya mengindahkan peringatan dari dongeng Profesor Bostrom.
Dalam wawancara tahun 2016 dengan Penduduk New York, dia mengungkapkan bahwa dia adalah orang yang mempersiapkan hari kiamat — khususnya untuk kiamat yang digerakkan oleh AI. “Saya mencoba untuk tidak terlalu memikirkannya,” katanya, mengungkapkan bahwa dia menyembunyikan “senjata, emas, kalium iodida, antibiotik, baterai, air (dan) masker gas” di tempat persembunyian di pedesaan California. Bukan berarti semua itu akan memberikan banyak manfaat bagi kita semua.
