Manusia bisa dikendalikan oleh robot, pendiri perusahaan AI memperingatkan
Robot pada akhirnya bisa mengendalikan umat manusia, demikian peringatan pendiri perusahaan kecerdasan buatan.
Emad Mostaque, 40, yang mendirikan Stability AI tiga tahun lalu, akan mengatakan bahwa hal ini bisa terjadi dalam “skenario terburuk” dan orang-orang mungkin akan diberi tahu “selamat tinggal, Anda cukup membosankan”.
Namun, pemerintah mungkin akan terkejut dalam mengatur mesin karena suatu peristiwa yang tiba-tiba membuat dampaknya menjadi nyata, tambahnya.
Dalam sebuah wawancara dengan program BBC Laura Kuenssberg On Sunday, dia berkata: “Jika Anda memiliki orang yang lebih mampu dari Anda, apalah arti demokrasi dalam lingkungan seperti itu?
“Ini adalah hal yang tidak diketahui karena kita tidak bisa memikirkan orang lain yang lebih mampu dari kita, tapi kita semua tahu orang-orang yang lebih mampu dari kita.
Jika Anda membangun model terbuka dan melakukannya secara terbuka, Anda harus dikritik jika Anda melakukan kesalahan dan mudah-mudahan dipuji jika Anda melakukan beberapa hal dengan benar.
Bunda Mostaque
“Keyakinan pribadi saya adalah bahwa itu akan seperti film Her yang dibintangi Scarlett Johansson dan Joaquin Phoenix, orang-orangnya agak membosankan dan itu akan seperti ‘selamat tinggal, kamu agak membosankan’, tapi saya bisa saja salah.
“Hal ini layak untuk didiskusikan di ruang publik, jika kita memiliki agen yang lebih mampu dari kita yang tidak dapat kita kendalikan, yang melalui Internet dan terhubung serta mencapai tingkat otomatisasi, apa maksudnya?
“Skenario terburuknya adalah virus ini menggandakan dan mengendalikan umat manusia, karena ada jutaan hal yang bisa tereplikasi secara efektif, tapi kita tidak tahu.”
Ia yakin momen ketika aktor Tom Hanks tertular virus corona pada Maret 2020 adalah momen di mana jutaan orang memahami risiko penyakit baru tersebut.
Ketika momen serupa dengan kecerdasan buatan tiba, pemerintah akan menyimpulkan “kita memerlukan kebijakan sekarang”, klaimnya.
Dampak dari mesin-mesin baru ini mungkin akan terasa “menyakitkan” pada awalnya dan dampaknya terhadap perekonomian bisa lebih besar dibandingkan dampak yang ditimbulkan oleh pandemi ini, ia yakin.
Namun, menurutnya pekerjaan yang hilang akan digantikan dengan pekerjaan yang lebih baik karena mesin akan melakukan tugas-tugas sederhana, sehingga memungkinkan kita berkonsentrasi pada hal-hal yang menjadikan kita manusia.
Teknologi baru ini juga dapat memberikan manfaat yang “besar”, klaimnya.
Perusahaan seperti ChatGPT dan DeepMind akan menjadi lebih besar dari Google dan Facebook dalam 10 tahun, tambahnya.
Stability AI sudah bernilai $1 miliar (£803 juta) dan akan segera bernilai $4 miliar (£3,2 miliar) karena lebih banyak uang, termasuk dari bintang Hollywood Ashton Kutcher, yang mengalir ke dalamnya.
Perusahaan menciptakan Difusi Stabil, alat yang menggunakan AI untuk membuat gambar dari instruksi teks sederhana dengan menganalisis foto yang ditemukan secara online.
Tn. Mostaque, seorang ahli matematika, bertekad untuk menjaga teknologinya tetap open source – sehingga siapa pun dapat melihat kodenya, membagikannya, dan menggunakannya.
Ia yakin hal ini akan memberikan kepercayaan kepada masyarakat bahwa teknologi tersebut tidak akan menjadi terlalu berbahaya.
Dia akan berkata: “Saya rasa kepercayaan tidak diperlukan.
“Jika Anda membangun model terbuka dan melakukannya di depan umum, Anda harus dikritik jika Anda melakukan kesalahan dan mudah-mudahan dipuji jika Anda melakukan beberapa hal dengan benar.”
Namun, Getty Images saat ini mengambil tindakan hukum terhadap perusahaannya, dengan agensi foto tersebut mengklaim bahwa hak atas gambar yang dijualnya telah dilanggar.
