‘Ayah baptis’ AI Geoffrey Hinton memperingatkan bahaya saat dia berhenti dari pekerjaannya di Google
Geoffrey Hinton, “ayah baptis” kecerdasan buatan, telah mengundurkan diri dari pekerjaannya di Google, dengan mengatakan bahwa “aktor jahat” akan menggunakan teknologi AI baru untuk merugikan orang lain dan bahwa alat yang ia bantu ciptakan dapat berarti akhir dari umat manusia.
Dr Hinton menghabiskan seluruh karirnya untuk meneliti pengembangan dan penggunaan teknologi AI, dan pada tahun 2018 menerima Turing Award atas karyanya.
Sejak 2013, ia membagi waktunya antara tim peneliti kecerdasan buatan Google dan Universitas Toronto, tempat ia menjabat sebagai profesor emeritus.
Dalam profilnya di New York Times, Dr Hinton mengatakan bahwa “sulit untuk melihat bagaimana Anda dapat mencegah pelaku kejahatan menggunakannya untuk hal-hal buruk”.
Anda bisa mendapatkan robot spam yang sangat efektif, mereka akan memungkinkan para pemimpin otoriter memanipulasi pemilih mereka
Geoffrey Hinton
“Saya menghibur diri dengan alasan yang wajar: Jika saya tidak melakukannya, orang lain pasti akan melakukannya,” katanya kepada surat kabar tersebut, seraya menambahkan bahwa kemajuan yang dicapai dalam teknologi AI selama lima tahun terakhir “mengerikan”.
Namun, Dr Hinton mengatakan di Twitter kemarin bahwa menurutnya Google telah “berperilaku sangat bertanggung jawab”, dan menambahkan bahwa dia telah meninggalkan perusahaan tersebut “agar saya dapat berbicara tentang bahaya AI tanpa mempertimbangkan dampaknya terhadap Google”.
Aplikasi AI seperti Midjourney dan ChatGPT telah menjadi viral di situs media sosial, dengan pengguna memposting gambar palsu selebriti dan politisi, dan siswa menggunakan ChatGPT dan “model pembelajaran bahasa” lainnya untuk menghasilkan esai tingkat perguruan tinggi.
Namun, semakin banyak pakar yang menyatakan bahwa pengembangan AI harus diperlambat atau dihentikan, dengan lebih dari seribu pemimpin teknologi menandatangani surat yang menyerukan “moratorium” pada bulan Maret.
Dalam wawancara lebih lanjut dengan BBC, Dr Hinton mengatakan dia kini khawatir bahwa kecerdasan buatan menimbulkan risiko serius bagi manusia.
“Anda bisa mendapatkan robot spam yang sangat, sangat efektif yang memungkinkan pemimpin otoriter memanipulasi pemilihnya,” katanya.
“Ada hal spesifik lain yang ingin saya bicarakan, yaitu risiko eksistensial dari apa yang terjadi ketika makhluk-makhluk ini menjadi lebih cerdas daripada kita.
“Kita adalah sistem biologis, ini adalah sistem digital, dan perbedaannya adalah dengan sistem digital Anda memiliki banyak salinan dari kumpulan bobot yang sama, model dunia yang sama.
“Semua salinan ini bisa dipelajari secara terpisah, tetapi berbagi ilmu secara instan. Jadi ini seperti Anda memiliki 10.000 orang, dan ketika satu orang mempelajari sesuatu, semua orang secara otomatis mengetahuinya. Begitulah cara obrolan ini bisa mengetahui lebih banyak daripada orang lain.”
Dr Hinton, 75, belajar psikologi eksperimental di Universitas Cambridge sebelum memperoleh gelar PhD di bidang kecerdasan buatan di Universitas Edinburgh pada tahun 1978.
Pada tahun 2012, Dr Hinton dan dua mahasiswa pascasarjananya membangun “jaringan saraf” yang dapat menganalisis foto dan mengidentifikasi objek umum, yang dipandang sebagai tonggak utama dalam pengembangan AI.
Dr Hinton menolak untuk mengambil dana dari militer AS sepanjang karirnya, dan meninggalkan dunia akademis di AS dan pindah ke Kanada untuk melanjutkan penelitiannya.
