OpenAI membela keamanan AI di tengah kontroversi ChatGPT
Pencipta ChatGPT, OpenAI, membela chatbot AI populernya menyusul kekhawatiran tentang bahaya yang ditimbulkannya terhadap masyarakat.
Dalam postingan blog yang diterbitkan pada hari Rabu, perusahaan AI tersebut mengakui “risiko nyata” yang terkait dengan teknologi tersebut, tetapi mengklaim bahwa sistem kecerdasan buatannya harus melalui “evaluasi keamanan yang ketat”.
Setelah menyelesaikan pelatihan model GPT-4 terbarunya, OpenAI mengatakan pihaknya melakukan pengujian keamanan selama enam bulan sebelum merilisnya ke publik.
Perusahaan juga menyerukan peraturan yang lebih besar untuk memastikan standar keselamatan dipatuhi di seluruh industri. Namun bahkan dengan peraturan yang lebih ketat dan pengujian keamanan, memprediksi kemungkinan penyalahgunaan teknologi setelah tersedia untuk umum masih merupakan tantangan besar.
“Meskipun telah dilakukan penelitian dan pengujian yang ekstensif, kami tidak dapat memprediksi semua manfaat yang akan diperoleh orang-orang dalam menggunakan teknologi kami, atau semua cara orang-orang akan menyalahgunakannya,” jelasnya. postingan blog menyatakan.
“Kami akan semakin berhati-hati dalam pembuatan dan penerapan model yang lebih mumpuni, dan akan terus meningkatkan perlindungan seiring dengan berkembangnya sistem AI kami.”
Blog ini muncul seminggu setelah lebih dari 1.000 ahli menyerukan agar pengembangan AI dihentikan sampai risiko sepenuhnya dipahami dengan benar.
“Jika jeda seperti itu tidak dapat dilakukan dengan cepat, pemerintah harus turun tangan dan menerapkan moratorium,” tulis para penulis.
OpenAI mengatakan pihaknya “sangat ingin berkontribusi” pada diskusi semacam itu dan “secara aktif terlibat dengan pemerintah mengenai bentuk terbaik yang dapat diambil dari peraturan tersebut”.
Perusahaan ini juga telah mengatasi tuduhan baru-baru ini seputar pengumpulan data pengguna, dengan Italia pada pekan lalu menjadi negara Barat pertama yang melarang ChatGPT karena masalah privasi.
Negara-negara Eropa lainnya, termasuk Jerman dan Irlandia, dilaporkan sedang mempertimbangkan larangan serupa dan saat ini sedang melakukan pembicaraan dengan badan perlindungan data Italia.
“Meskipun beberapa data pelatihan kami mencakup informasi pribadi yang tersedia di internet publik, kami ingin model kami belajar tentang dunia, bukan individu,” tulis postingan blog OpenAI.
“Jadi kami berupaya untuk menghapus informasi pribadi dari kumpulan data pelatihan jika memungkinkan, menyempurnakan model untuk menolak permintaan informasi pribadi dari individu pribadi, dan menanggapi permintaan dari individu untuk menghapus informasi pribadi mereka dari sistem kami.”
OpenAI tidak menanggapi permintaan komentar dari Independen tentang prospek pelarangan lebih lanjut.