Pembuat ChatGPT mengatakan ada kemungkinan 50% AI akan berakhir dengan ‘malapetaka’
Salah satu pencipta ChatGPT telah menambahkan peringatan tentang potensi konsekuensi bencana dari pengembangan kecerdasan buatan.
Mantan pekerja OpenAI Paul Christiano, yang sekarang menjalankan penelitian AI nirlaba Alignment Research Center, mengatakan dia yakin ada kemungkinan besar teknologi ini akan menyebabkan kehancuran umat manusia.
Bahaya terbesar, menurutnya, akan terjadi ketika sistem AI mencapai dan melampaui kapasitas kognitif manusia. Dr Christiano memperkirakan ada “kemungkinan malapetaka 50/50” ketika momen ini tiba.
“Saya cenderung membayangkan satu tahun transisi dari sistem AI menjadi sebuah hal yang cukup besar, menuju percepatan perubahan, diikuti dengan percepatan lebih lanjut, dan seterusnya,” katanya kepada podcast Bankless.
“Saya pikir ketika Anda memiliki pandangan seperti itu, banyak hal yang terasa seperti masalah AI karena hal itu terjadi segera setelah Anda membuat AI.”
Dia menambahkan: “Cara kematian yang paling mungkin terjadi adalah – bukan AI yang muncul tiba-tiba dan membunuh semua orang – tetapi melibatkan kita menyebarkan banyak AI di mana pun… (Dan) jika karena alasan tertentu, amit-amit, semua sistem AI ini mencoba membunuh kita, mereka pasti akan membunuh kita.”
Komentar tersebut muncul di tengah meningkatnya kekhawatiran atas pesatnya kemajuan kecerdasan buatan dalam beberapa bulan terakhir, dengan Geoffrey Hinton yang disebut sebagai bapak baptis AI meninggalkan Google untuk memperingatkan bahaya AI.
Bicaralah dengan Waktu New YorkIa mengaku menyesali kerja keras yang telah ia sumbangkan di lapangan karena masa depan yang tidak dapat diprediksi yang kita hadapi saat ini.
“Gagasan bahwa benda-benda ini sebenarnya bisa menjadi lebih pintar daripada manusia – hanya sedikit orang yang memercayainya – namun sebagian besar orang mengira hal tersebut masih jauh. Dan menurut saya, hal tersebut masih jauh. Saya pikir hal tersebut masih akan terjadi dalam waktu 30-50 tahun atau bahkan Tentu saja saya tidak berpikir begitu lagi,” katanya.
“Saya pikir mereka tidak perlu meningkatkan skalanya sampai mereka memahami apakah mereka bisa mengendalikannya.”
Pendiriannya dipuji oleh peneliti lain, dan Catherine Olsson dari AnthropicAI mengatakan bahwa hal tersebut dapat mendorong orang lain di bidangnya untuk angkat bicara.
“Di universitas saya langsung berhenti makan daging, ketika seorang teman bertanya mengapa saya belum melakukannya. Kontrol sosial terhadap etika kita bisa sangat berpengaruh,” katanya tweet. “Saya sering memikirkan kapan saya akan meninggalkan Anthropic atau meninggalkan AI sama sekali. Saya mendorong orang lain untuk melakukannya. Saya sudah tahu langkah ini akan berdampak pada saya.”
Tokoh terkemuka lainnya juga mendesak perusahaan AI untuk menghentikan pengembangan sistem canggih, yang terbaru melalui surat terbuka yang ditandatangani oleh ribuan ahli yang mendesak pemerintah untuk mengambil tindakan jika pengembangan kecerdasan buatan tidak dihentikan setidaknya selama enam bulan.
Di antara para penandatangan adalah Elon Musk, yang sering berbicara tentang ancaman eksistensial yang ditimbulkan oleh AI. Miliarder teknologi, yang ikut mendirikan OpenAI, tweet Senin: “Bahkan ketergantungan pada AI/otomatisasi pun berbahaya bagi peradaban jika dilakukan terlalu jauh sehingga kita akhirnya melupakan cara kerja mesin.”
