blog.thelawofficeofdwightday.com

Ilmuwan komputer yang membantu membangun fondasi teknologi kecerdasan buatan saat ini memperingatkan akan bahayanya, namun hal itu tidak berarti mereka sepakat mengenai apa saja bahaya tersebut atau bagaimana cara mencegahnya.

Setelah pensiun dari Google agar ia dapat berbicara lebih bebas, Geoffrey Hinton yang disebut-sebut sebagai Godfather of AI berencana untuk menguraikan kekhawatirannya pada sebuah konferensi di Massachusetts Institute of Technology pada hari Rabu. Dia telah menyatakan penyesalannya atas pekerjaannya dan keraguannya terhadap kelangsungan hidup umat manusia jika mesin menjadi lebih pintar dari manusia.

Rekan pionir AI Yoshua Bengio, yang merupakan salah satu pemenang penghargaan ilmu komputer terbaik bersama Hinton, mengatakan kepada Associated Press pada hari Rabu bahwa ia “cukup selaras” dengan kekhawatiran Hinton yang diangkat oleh chatbots seperti ChatGPT dan teknologi terkait, namun khawatir hanya dengan mengatakan ” Kita ditakdirkan” tidak akan membantu.

“Perbedaan utamanya, menurut saya, adalah dia adalah tipe orang yang pesimistis, dan saya lebih optimis,” kata Bengio, seorang profesor di Universitas Montreal. “Saya pikir bahayanya – baik jangka pendek maupun jangka panjang – sangat serius dan harus ditanggapi secara serius tidak hanya oleh beberapa peneliti, namun juga oleh pemerintah dan masyarakat.”

Ada banyak tanda bahwa pemerintah mendengarkan. Gedung Putih mengundang CEO Google, Microsoft dan pembuat ChatGPT OpenAI untuk bertemu dengan Wakil Presiden Kamala Harris pada hari Kamis dalam apa yang digambarkan oleh para pejabat sebagai diskusi jujur ​​tentang bagaimana mengelola risiko jangka pendek dan jangka panjang dari teknologi mereka. Anggota parlemen Eropa juga mempercepat negosiasi untuk meloloskan peraturan AI yang baru.

Namun semua perbincangan tentang bahaya paling serius di masa depan menimbulkan kekhawatiran bahwa hype seputar mesin manusia super – yang belum ada – akan mengalihkan perhatian dari upaya untuk memberikan perlindungan praktis pada produk AI saat ini yang sebagian besar tidak diatur.

Margaret Mitchell, mantan pemimpin tim etika AI Google, mengatakan dia kesal karena Hinton tidak angkat bicara selama satu dekade menjabat posisi berkuasa di Google, terutama setelah ilmuwan kulit hitam terkemuka Timnit Gebru disingkirkan pada tahun 2020, yang mempelajari kerusakan tersebut. model bahasa besar sebelum dikomersialkan secara luas dalam produk seperti ChatGPT dan Google’s Bard.

“Merupakan suatu keistimewaan bahwa dia dapat melompat dari kenyataan penyebaran diskriminasi yang terjadi saat ini, penyebaran ujaran kebencian, pornografi perempuan yang bersifat racun dan non-konsensual, semua permasalahan ini yang secara aktif merugikan orang-orang yang terpinggirkan dalam teknologi,” ujarnya. .kata Mitchell, yang juga terpaksa keluar dari Google setelah kepergian Gebru. “Dia melewatkan semua hal itu untuk mengkhawatirkan sesuatu yang lebih jauh.”

Bengio, Hinton, dan peneliti ketiga, Yann LeCun, yang bekerja di perusahaan induk Facebook, Meta, semuanya dianugerahi Turing Prize pada tahun 2019 atas terobosan mereka di bidang jaringan saraf tiruan, yang berperan penting dalam pengembangan aplikasi AI masa kini seperti ChatGPT.

Bengio, satu-satunya dari tiga orang yang tidak bekerja di sebuah perusahaan teknologi raksasa, selama bertahun-tahun telah menyuarakan kekhawatirannya mengenai risiko AI jangka pendek, termasuk destabilisasi pasar tenaga kerja, senjata otomatis, dan bahaya kumpulan data yang bias.

Namun kekhawatiran ini semakin meningkat akhir-akhir ini, sehingga Bengio bergabung dengan ilmuwan komputer dan pemimpin bisnis teknologi lainnya seperti Elon Musk dan salah satu pendiri Apple Steve Wozniak menyerukan jeda enam bulan pada pengembangan sistem AI yang lebih canggih dibandingkan model terbaru OpenAI. GPT-4 .

Bengio mengatakan pada hari Rabu bahwa ia yakin model bahasa AI terbaru telah lulus “uji Turing” yang diambil dari nama metode pemecah kode Inggris dan pionir AI Alan Turing yang diperkenalkan pada tahun 1950 untuk mengukur kapan AI tidak dapat dibedakan dari manusia – setidaknya di permukaan. .

“Ini adalah sebuah tonggak sejarah yang bisa menimbulkan konsekuensi drastis jika kita tidak berhati-hati,” kata Bengio. “Kekhawatiran terbesar saya adalah bagaimana hal-hal tersebut dapat dieksploitasi untuk tujuan jahat untuk mengganggu stabilitas demokrasi, untuk serangan dunia maya, dan disinformasi. Anda dapat melakukan percakapan dengan sistem ini dan mengira Anda sedang berinteraksi dengan manusia. Mereka sulit dikenali.”

Hal yang kurang disetujui oleh para peneliti adalah bagaimana sistem bahasa AI saat ini—yang memiliki banyak keterbatasan, termasuk kecenderungan untuk mengarang informasi—akan menjadi lebih pintar dibandingkan manusia.

Aidan Gomez ikut menulis makalah inovatif pada tahun 2017 yang memperkenalkan apa yang disebut teknik transformator—”T” di akhir ChatGPT—untuk meningkatkan kinerja sistem pembelajaran mesin, khususnya dalam cara sistem belajar dari bagian teks. Saat itu, ketika ia masih magang di Google berusia 20 tahun, Gomez ingat berbaring di sofa di kantor pusat perusahaan di California ketika timnya mengirimkan makalah tersebut sekitar jam 3 pagi ketika waktunya tiba.

“Aidan, ini akan menjadi sangat besar,” kenangnya ketika seorang rekannya menceritakan kepadanya tentang pekerjaan yang telah membantu menghasilkan sistem baru yang dapat menghasilkan prosa dan gambar manusia.

Enam tahun kemudian dan sekarang menjadi CEO perusahaan AI miliknya, Cohere, Gomez sangat antusias dengan potensi penerapan sistem ini, namun merasa terganggu oleh para penghasut yang mengatakan bahwa dia “terlepas dari kenyataan” akan kemampuan mereka yang sebenarnya dan “mengandalkan lompatan imajinasi yang luar biasa dan penalaran.”

“Gagasan bahwa model-model ini akan mendapatkan akses terhadap senjata nuklir kita dan meluncurkan semacam peristiwa tingkat pemusnahan bukanlah wacana yang produktif,” kata Gomez. “Ini merusak upaya kebijakan pragmatis nyata yang mencoba menghasilkan sesuatu yang baik.”