Pelopor AI memperingatkan Inggris gagal melindungi diri dari ‘ancaman eksistensial’ yang berasal dari mesin
Salah satu pionir kecerdasan buatan telah memperingatkan bahwa pemerintah tidak melakukan perlindungan terhadap bahaya yang ditimbulkan oleh mesin super cerdas di masa depan.
Profesor Stuart Russell menceritakan Waktu Para menteri lebih memilih untuk memberikan sedikit perhatian pada industri AI yang sedang berkembang, meskipun ada peringatan dari pegawai negeri bahwa hal ini dapat menimbulkan ancaman nyata.
Mantan penasihat Downing Street dan Gedung Putih, Prof Russell adalah salah satu penulis buku teks AI yang paling banyak digunakan dan dosen ilmu komputer di University of California, Berkeley.
Dia bilang Waktu sistem yang mirip dengan ChatGPT – yang lulus ujian dan dapat menulis prosa – dapat menjadi bagian dari mesin superintelligence yang tidak dapat dikendalikan.
“Bagaimana Anda mempertahankan kekuasaan atas entitas yang lebih kuat dari Anda – selamanya?” Dia bertanya. “Jika Anda tidak memiliki jawabannya, berhentilah meneliti. Sesederhana itu.
“Pertaruhannya sangat besar: jika kita tidak mengendalikan peradaban kita sendiri, kita tidak bisa menentukan apakah kita akan terus ada.”
Pada bulan Maret, ia ikut menandatangani surat terbuka dengan Elon Musk dan pendiri Apple Steve Wozniak yang memperingatkan tentang “perlombaan di luar kendali” yang sedang berlangsung di laboratorium AI.
Surat tersebut memperingatkan bahwa laboratorium sedang mengembangkan “otak digital yang semakin kuat sehingga tidak seorang pun, bahkan penciptanya, dapat memahami, memprediksi, atau mengendalikannya dengan andal”.
Prof Russell bekerja untuk PBB pada sistem untuk memantau perjanjian larangan uji coba nuklir dan diminta untuk bekerja dengan Pemerintah awal tahun ini.
“Kementerian Luar Negeri…berbicara dengan banyak orang dan mereka menyimpulkan bahwa hilangnya kendali adalah hasil yang masuk akal dan sangat penting,” katanya.
“Dan kemudian pemerintah mengeluarkan pendekatan peraturan yang mengatakan, ‘Tidak ada yang bisa dilihat di sini… kami akan menyambut industri AI seolah-olah kami sedang berbicara tentang pembuatan mobil atau semacamnya’.”
Dia mengatakan menambahkan perubahan pada dasar teknis AI untuk menambahkan perlindungan yang diperlukan akan membutuhkan “waktu yang mungkin tidak kita miliki”.
“Saya rasa ada yang salah di awal-awal kita, di mana kita begitu terpesona dengan gagasan memahami dan menciptakan intelijen, kita tidak memikirkan untuk apa kecerdasan itu,” ujarnya.
Kami seperti mendapat pesannya dan kami berusaha mencari tahu apa yang harus dilakukan
Profesor Stuart Russel
“Kecuali tujuan utamanya adalah memberikan manfaat bagi masyarakat, Anda sebenarnya menciptakan pesaing – dan itu jelas merupakan hal yang bodoh untuk dilakukan.
“Kami tidak menginginkan sistem yang meniru perilaku manusia… pada dasarnya Anda melatih mereka untuk memiliki tujuan yang mirip dengan manusia dan untuk mencapai tujuan tersebut.
“Anda hanya bisa membayangkan betapa buruknya jika sistem yang benar-benar mampu mencapai tujuan seperti itu.”
Dia mengatakan ada tanda-tanda bahwa para politisi mulai sadar akan risikonya.
“Kami sepertinya mendapat pesannya dan kami berusaha mencari tahu apa yang harus dilakukan,” katanya. “Itulah yang dirasakannya sekarang.”
Pemerintah telah meluncurkan Satuan Tugas Model Yayasan AI, yang dikatakan akan “meletakkan dasar bagi penggunaan model dasar yang aman di seluruh perekonomian dan memastikan Inggris berada di garis depan dalam teknologi AI yang penting ini”.