Gedung Putih menangani peretas untuk membobol ChatGPT
Gedung Putih telah menantang para peretas untuk membobol ChatGPT dan chatbot AI lainnya agar lebih memahami risiko yang ditimbulkan oleh teknologi tersebut.
Pengujian kecerdasan buatan generatif akan berlangsung pada bulan Agustus ini di konvensi peretas Def Con 31 di Las Vegas, dengan pengembang AI terkemuka seperti Google, Microsoft, dan OpenAI semuanya setuju untuk menguji produk mereka.
“AI adalah salah satu teknologi paling kuat di zaman kita, namun untuk memanfaatkan peluang yang ada, pertama-tama kita harus memitigasi risikonya,” kata Gedung Putih dalam sebuah pernyataan.
“Pemerintah mengumumkan komitmen independen dari pengembang AI terkemuka, termasuk Anthropic, Google, Hugging Face, Microsoft, Nvidia, OpenAI, dan Stability AI, untuk berpartisipasi dalam evaluasi publik terhadap sistem AI.”
Acara ini diumumkan dalam pertemuan antara Wakil Presiden AS Kamala Harris dan para eksekutif teknologi di Gedung Putih, yang bertujuan untuk mengatasi kekhawatiran mengenai pesatnya pertumbuhan teknologi AI.
Kontes peretasan ini sejalan dengan RUU Hak AI yang diumumkan pemerintahan Biden tahun lalu, yang bertujuan untuk melindungi warga negara dari potensi bahaya yang terkait dengan AI.
“Latihan independen ini akan memberikan informasi penting kepada para peneliti dan masyarakat tentang dampak model-model ini, dan akan memungkinkan perusahaan dan pengembang AI mengambil langkah-langkah untuk memperbaiki masalah yang ditemukan dalam model-model tersebut,” pernyataan Gedung Putih.
Pekan lalu, sebuah postingan blog dari Dewan Kebijakan Domestik Gedung Putih dan Kantor Kebijakan Sains dan Teknologi Gedung Putih memperingatkan bahwa teknologi saat ini menimbulkan risiko yang signifikan bagi pekerja.
Dalam jangka panjang, para ahli teknologi dan pembuat kebijakan memperingatkan bahwa kecerdasan buatan yang canggih dapat menimbulkan konsekuensi yang sangat buruk bagi masyarakat.
Seorang mantan peneliti OpenAI baru-baru ini mengatakan bahwa dia yakin ada “peluang kehancuran 50/50” jika sistem AI mencapai dan melampaui kapasitas kognitif manusia.
“Saya cenderung membayangkan transisi sistem AI selama satu tahun menjadi hal yang cukup besar, menuju percepatan perubahan, diikuti dengan percepatan lebih lanjut, dan seterusnya,” Dr Paul Christiano, yang sekarang melakukan penelitian AI – menjalankan organisasi nirlaba Alignment Pusat Penelitian. , kata bulan lalu.
“Saya pikir ketika Anda memiliki pandangan seperti itu, banyak hal yang terasa seperti masalah AI karena hal itu terjadi segera setelah Anda membuat AI.”
