blog.thelawofficeofdwightday.com

Geoffrey Hinton, seorang ilmuwan komputer pemenang penghargaan yang dikenal sebagai “bapak baptis kecerdasan buatan”, sedang memikirkan kembali hasil kerja kerasnya.

Hinton membantu memelopori teknologi AI yang penting bagi generasi baru chatbot berkemampuan tinggi seperti ChatGPT. Namun dalam wawancara baru-baru ini, dia mengatakan bahwa dia baru-baru ini mengundurkan diri dari jabatan penting di Google, khususnya untuk menyampaikan kekhawatirannya bahwa pengembangan AI yang tidak terkendali dapat menimbulkan bahaya bagi umat manusia.

“Saya tiba-tiba mengubah pandangan saya tentang apakah hal-hal ini akan menjadi lebih cerdas daripada kita,” katanya dalam sebuah wawancara dengan MIT Technology Review. “Saya pikir mereka sudah hampir mencapainya sekarang dan mereka akan jauh lebih cerdas daripada kita di masa depan…. Bagaimana kita bisa bertahan dalam situasi ini?”

Hinton tidak sendirian dalam kekhawatirannya. Tak lama setelah startup yang didukung Microsoft, OpenAI, merilis model AI terbarunya yang disebut GPT-4 pada bulan Maret, lebih dari 1.000 peneliti dan ahli teknologi menandatangani surat yang menyerukan jeda enam bulan pada pengembangan AI karena, menurut mereka, hal tersebut “menimbulkan risiko yang sangat berbahaya. bagi masyarakat dan kemanusiaan.”

Berikut ini kekhawatiran terbesar Hinton tentang masa depan AI…dan kemanusiaan.

INI SEMUA TENTANG JARINGAN SARAF

Otak manusia kita dapat memecahkan persamaan kalkulus, mengendarai mobil, dan mengikuti perkembangan karakter dalam “Sukses” berkat bakat bawaan mereka dalam mengatur dan menyimpan informasi serta memikirkan solusi untuk masalah-masalah pelik. Ada sekitar 86 miliar neuron yang tersimpan di dalam tengkorak kita—dan, yang lebih penting, 100 miliar koneksi yang dibangun oleh neuron-neuron tersebut—memungkinkan hal ini terjadi.

Sebaliknya, teknologi yang mendasari ChatGPT memiliki antara 500 miliar hingga satu triliun koneksi, kata Hinton dalam wawancara. Meskipun hal ini tampaknya sangat merugikan kita, Hinton mencatat bahwa GPT-4, model AI terbaru dari OpenAI, mengetahui “ratusan kali lebih banyak” dibandingkan manusia mana pun. Mungkin, menurutnya, teknologi ini memiliki “algoritme pembelajaran yang jauh lebih baik” daripada kita, sehingga lebih efisien dalam tugas-tugas kognitif.

AI MUNGKIN SUDAH LEBIH PINTAR DARI KITA

Para peneliti telah lama mencatat bahwa jaringan saraf tiruan membutuhkan waktu lebih lama untuk menyerap dan menerapkan pengetahuan baru dibandingkan manusia, karena melatihnya memerlukan energi dan data dalam jumlah besar. Hal ini tidak lagi terjadi, kata Hinton, seraya mencatat bahwa sistem seperti GPT-4 dapat mempelajari hal-hal baru dengan sangat cepat setelah dilatih dengan baik oleh para peneliti. Hal ini tidak berbeda dengan cara seorang fisikawan profesional yang terlatih dapat memikirkan temuan-temuan eksperimental baru jauh lebih cepat daripada yang dapat dilakukan oleh siswa sains sekolah menengah pada umumnya.

Hal ini membuat Hinton menyimpulkan bahwa sistem AI mungkin telah mengakali kita. Sistem AI tidak hanya dapat mempelajari berbagai hal dengan lebih cepat, ia mencatat, mereka juga dapat berbagi salinan pengetahuan mereka satu sama lain hampir secara instan.

“Ini adalah bentuk intelijen yang sangat berbeda,” katanya kepada publikasi tersebut. “Bentuk intelijen yang baru dan lebih baik.”

PERANG DAN RUMOR PERANG

Apa yang bisa dilakukan oleh sistem AI yang lebih pintar dari manusia? Salah satu kemungkinan yang meresahkan adalah individu, kelompok, atau negara yang jahat bisa saja mengkooptasi mereka demi mencapai tujuan mereka sendiri. Hinton sangat prihatin bahwa alat-alat ini dapat dilatih untuk mempengaruhi pemilu dan bahkan untuk melancarkan perang.

Misinformasi pemilu yang disebarkan melalui chatbot AI, misalnya, bisa menjadi versi masa depan dari misinformasi pemilu yang disebarkan melalui Facebook dan platform media sosial lainnya.

Dan ini mungkin baru permulaan. “Jangan berpikir bahwa Putin tidak akan membuat robot hiper-cerdas dengan tujuan membunuh warga Ukraina,” kata Hinton dalam artikel tersebut. “Dia tidak akan ragu.”

KURANGNYA SOLUSI

Yang masih belum jelas adalah bagaimana seseorang bisa menghentikan kekuatan seperti Rusia yang menggunakan teknologi AI untuk mendominasi negara tetangganya atau warga negaranya sendiri. Hinton berpendapat bahwa perjanjian global yang serupa dengan Konvensi Senjata Kimia tahun 1997 dapat menjadi langkah awal yang baik menuju penetapan peraturan internasional terhadap senjata AI.

Meskipun perlu juga dicatat bahwa persediaan senjata kimia tidak menghentikan apa yang ditemukan oleh para penyelidik, yaitu kemungkinan serangan Suriah dengan gas klorin dan agen saraf sarin terhadap warga sipil pada tahun 2017 dan 2018 selama perang saudara berdarah di negara tersebut.