‘Saya merasa tersesat’ – pelopor AI angkat bicara ketika para ahli memperingatkan bahwa hal itu dapat memusnahkan umat manusia
Salah satu “bapak baptis” kecerdasan buatan (AI) mengatakan dia merasa “tersesat” ketika para ahli memperingatkan bahwa teknologi tersebut dapat menyebabkan kepunahan umat manusia.
Profesor Yoshua Bengio mengatakan kepada BBC bahwa semua perusahaan yang membuat produk AI harus terdaftar dan orang yang mengerjakan teknologi tersebut harus mendapatkan pelatihan etika.
Hal ini terjadi setelah puluhan ahli mencantumkan nama mereka dalam sebuah surat yang disusun oleh Pusat Keamanan AI, yang memperingatkan bahwa teknologi tersebut dapat memusnahkan umat manusia dan bahwa risikonya harus ditangani dengan urgensi yang sama seperti pandemi atau perang nuklir.
Prof Bengio berkata: “Ini merupakan tantangan, secara emosional, bagi orang-orang yang berkecimpung di dalam (sektor AI).
Ini persis seperti perubahan iklim. Kita telah membuang banyak karbon ke atmosfer. Dan akan lebih baik jika kita tidak memilikinya, tapi mari kita lihat apa yang bisa kita lakukan sekarang
Profesor Joshua Bengio
“Bisa dibilang aku merasa kehilangan. Namun Anda harus terus maju dan Anda harus terlibat, berdiskusi, mendorong orang lain untuk berpikir bersama Anda.”
Bos senior di perusahaan seperti Google DeepMind dan Anthropic menandatangani surat tersebut bersama dengan pionir AI lainnya, Geoffrey Hinton, yang mengundurkan diri dari pekerjaannya di Google awal bulan ini, mengatakan bahwa di tangan yang salah, AI dapat digunakan untuk memanipulasi orang dan untuk menyakiti. berarti akhir umat manusia.
Para ahli telah memperingatkan bahwa teknologi ini dapat menghilangkan lapangan pekerjaan bagi manusia, namun pernyataan baru ini memperingatkan adanya kekhawatiran yang lebih dalam, dengan mengatakan bahwa AI dapat digunakan untuk mengembangkan senjata kimia baru dan meningkatkan pertempuran udara.
Aplikasi AI seperti Midjourney dan ChatGPT telah menjadi viral di situs media sosial, dengan pengguna memposting gambar palsu selebriti dan politisi, dan siswa menggunakan ChatGPT dan “model pembelajaran bahasa” lainnya untuk menghasilkan esai tingkat perguruan tinggi.
Namun AI juga dapat melakukan tugas-tugas yang menyelamatkan nyawa, seperti algoritma yang menganalisis gambar medis seperti sinar-X, pemindaian, dan ultrasound, untuk membantu dokter mengidentifikasi dan mendiagnosis penyakit seperti kanker dan penyakit jantung dengan lebih akurat dan cepat.
Pekan lalu, Perdana Menteri Rishi Sunak berbicara tentang pentingnya memastikan “rel” yang tepat tersedia untuk melindungi dari potensi bahaya, mulai dari disinformasi dan keamanan nasional hingga “ancaman eksistensial”, sekaligus mendorong inovasi.
Pada hari Rabu, ia membalas pernyataan Pusat Keamanan AI di Twitter, dan menambahkan: “Pemerintah memperhatikan hal ini dengan sangat hati-hati. Minggu lalu saya menekankan kepada perusahaan AI tentang pentingnya menerapkan jalur keselamatan agar pembangunan aman dan terjamin. Tapi kita harus bekerja sama. Itu sebabnya saya membahasnya di @G7 dan akan melakukannya lagi ketika saya mengunjungi AS.”
Prof Bengio mengatakan kepada BBC bahwa semua perusahaan yang membuat produk AI yang kuat harus terdaftar.
“Pemerintah harus melacak apa yang mereka lakukan, mereka harus bisa mengauditnya, dan itu hanyalah hal minimal yang kita lakukan untuk sektor lain seperti pembuatan pesawat terbang, mobil, atau obat-obatan,” katanya.
“Kami juga membutuhkan orang-orang yang dekat dengan sistem ini untuk memiliki semacam sertifikasi… kami memerlukan pelatihan etika di sini. Omong-omong, ilmuwan komputer biasanya tidak memahami hal itu.”
Prof Bengio berkata mengenai kondisi AI saat ini: “Tidak ada kata terlambat untuk menjadi lebih baik.
“Ini persis seperti perubahan iklim. Kita telah membuang banyak karbon ke atmosfer. Dan akan lebih baik jika kita tidak memilikinya, tapi mari kita lihat apa yang bisa kita lakukan sekarang.”
Kita tidak begitu tahu bagaimana memahami konsekuensi mutlak dari teknologi ini
Profesor Sir Nigel Shadbolt
Pakar Universitas Oxford Sir Nigel Shadbolt, ketua Open Data Institute yang berbasis di London, mengatakan kepada BBC: “Saat ini kita memiliki sejumlah besar AI di sekitar kita, yang hampir ada di mana-mana dan tidak terdeteksi. Ada perangkat lunak di ponsel kita yang mengenali suara kita, kemampuan mengenali wajah.
“Sebenarnya, ketika kami memikirkannya, kami menyadari ada dilema etika dalam menggunakan teknologi tersebut. Saya pikir apa yang berbeda sekarang, dengan apa yang disebut AI generatif, seperti ChatGPT, adalah bahwa ini adalah sistem yang dapat dispesialisasikan dari tugas umum hingga tugas yang sangat, sangat spesifik dan rekayasanya berada di depan sains.
“Kita tidak begitu tahu bagaimana memahami konsekuensi absolut dari teknologi ini, kita semua memiliki kesadaran yang sama bahwa kita harus berinovasi secara bertanggung jawab, bahwa kita harus memikirkan dimensi etnis, nilai-nilai yang terkandung dalam sistem ini.
“Kita perlu memahami bahwa AI adalah kekuatan besar untuk kebaikan. Kita harus menghargai, bukan yang terburuk, (tetapi) ada banyak tantangan nyata yang kita hadapi… teknologi kita setara dengan hal-hal lain yang dapat kita kurangi, baik itu iklim atau tantangan lain yang harus kita hadapi.
“Tetapi menurut saya jika kita berpikir ke depan sekarang, jika kita mengambil langkah-langkah yang diperjuangkan oleh orang-orang seperti Yoshua, itu adalah langkah awal yang baik, sangat baik jika kita menyatukan lapangan untuk memahami bahwa ini adalah teknologi yang kuat. yang memiliki sisi gelap dan sisi terang, memiliki yin dan yang, dan kita memerlukan banyak suara dalam perdebatan itu.”
