AI mempunyai risiko yang sama dengan perang nuklir, para ahli memperingatkan
Pimpinan dua perusahaan AI terkemuka sekali lagi memperingatkan akan adanya ancaman nyata yang ditimbulkan oleh kecerdasan buatan yang canggih.
Kepala DeepMind dan OpenAI Demis Hassabis dan Sam Altman menjanjikan dukungan mereka terhadap pernyataan singkat yang diterbitkan oleh Pusat Keamanan AI, yang mengklaim bahwa regulator dan anggota parlemen perlu mengambil “risiko serius” dengan lebih serius.
“Memitigasi risiko kepunahan akibat AI harus menjadi prioritas global di samping risiko-risiko berskala sosial lainnya seperti pandemi dan perang nuklir,” kata Dr. penyataan membaca.
Center for AI Security, sebuah organisasi nirlaba yang berbasis di San Francisco, didirikan pada tahun 2022 dengan tujuan mengurangi “risiko AI pada skala masyarakat”, mengklaim bahwa penggunaan kecerdasan buatan dalam peperangan bisa “sangat berbahaya”. jika digunakan untuk mengembangkan senjata kimia baru dan meningkatkan pertempuran udara.
Penandatangan pernyataan terbaru, yang tidak merinci apa yang mereka pikir bisa punah, juga termasuk para pemimpin bisnis dan akademis yang terlibat.
Di antara mereka adalah Geoffrey Hinton, kadang-kadang disebut sebagai “Godfather of AI”, dan Ilya Sutskever, masing-masing CEO dan salah satu pendiri pengembang ChatGPT OpenAI.
Daftar tersebut juga mencakup puluhan bos senior di perusahaan seperti Google, salah satu pendiri Skype, dan pendiri perusahaan AI Anthropic.
AI kini menjadi kesadaran global setelah beberapa perusahaan merilis alat baru yang memungkinkan pengguna menghasilkan teks, gambar, dan bahkan kode komputer hanya dengan menanyakan apa yang mereka inginkan.
Para ahli mengatakan teknologi ini dapat mengambil lapangan pekerjaan bagi manusia – namun pernyataan ini memperingatkan akan adanya kekhawatiran yang lebih mendalam.
Munculnya alat-alat seperti ChatGPT dan Dall-E telah menghidupkan kembali ketakutan bahwa AI suatu hari nanti dapat memusnahkan umat manusia jika berhasil menggantikan kecerdasan manusia.
Awal tahun ini, para pemimpin teknologi meminta perusahaan-perusahaan AI terkemuka untuk menghentikan sementara pengembangan sistem mereka selama enam bulan guna mencari cara untuk memitigasi risiko.
“Sistem AI dengan kecerdasan yang menyaingi manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan,” ungkapnya surat Terbuka kata dari Future of Life Institute.
“Penelitian dan pengembangan AI harus difokus ulang untuk menjadikan sistem yang canggih dan modern saat ini menjadi lebih akurat, aman, dapat diinterpretasikan, transparan, kuat, selaras, andal, dan loyal.”
Pelaporan tambahan dari lembaga
