Pertimbangan kepercayaan dan etika ‘datang terlambat’ pada teknologi AI
Pertimbangan mengenai kepercayaan dan etika dalam pengembangan teknologi kecerdasan buatan (AI) sudah terlambat dalam prosesnya, kata seorang pakar terkemuka.
Lynn Parker, yang bertugas di Kantor Kebijakan Sains dan Teknologi Gedung Putih dari tahun 2018 hingga 2022, mengatakan bahwa hingga lima tahun lalu, etika jarang dibahas dalam komunitas riset AI di konferensi teknologi.
Dia mengatakan sistem AI – yang melibatkan simulasi proses kecerdasan manusia dengan mesin – telah ada sejak tahun 1950-an, namun ia menambahkan bahwa seiring dengan semakin meluasnya teknologi ini, timbul pertanyaan tentang kemampuan untuk memercayainya.
AI sudah ada sejak tahun 50an, jadi penelitian ini tidak terjadi begitu saja. Namun diskusi yang terjadi saat ini adalah karena kita telah menyadari bahwa AI mempengaruhi hampir setiap sektor masyarakat
Dr Lynn Parker
Berbicara pada konferensi IEEE International Conference on Robotics and Automation (ICRA) di ExCel di London, Dr Parker, direktur AI Tennessee Initiative di University of Tennessee, mengatakan: “Jika Anda melihat dialog hari ini seputar kecerdasan buatan, Anda dapat melihat bahwa sebagian besar diskusi tersebut adalah tentang masalah kepercayaan, atau lebih khusus lagi, kurangnya kepercayaan terhadap sistem AI.
“AI sudah ada sejak tahun 50an, jadi penelitian ini tidak terjadi begitu saja. Namun diskusi yang terjadi saat ini adalah karena kita telah menyadari bahwa AI mempengaruhi hampir setiap sektor masyarakat.
“Oleh karena itu, teknologi ini kemudian disebarluaskan ke masyarakat dan kini masyarakat berdiri dan berkata: ‘Apa yang kita lakukan mengenai kepercayaan?’.
Dijuluki sebagai “bapak baptis” AI, Geoffrey Hinton mengundurkan diri dari pekerjaannya di Google awal bulan ini, dengan mengatakan bahwa teknologi AI di tangan yang salah dapat digunakan untuk menyakiti manusia dan mengakhiri umat manusia.
Pada hari Selasa, ia dan nama-nama besar lainnya di industri ini – termasuk Sam Altman, CEO pengembang ChatGPT Open dan pembuatnya OpenAI, serta Demis Hassabis, CEO Google DeepMind – meminta para pemimpin dunia untuk berupaya mengurangi risiko “pemberantasan” teknologi.
Semakin banyak pakar yang mengatakan pengembangan AI harus diperlambat atau dihentikan, dengan lebih dari 1.000 pemimpin teknologi – mulai dari bos Twitter Elon Musk hingga salah satu pendiri Apple Steve Wozniak – menandatangani surat pada bulan Maret yang menyerukan “moratorium” untuk diberlakukan.
Aplikasi AI seperti Midjourney dan ChatGPT telah menjadi viral di situs media sosial, dengan pengguna memposting gambar palsu selebriti dan politisi, dan siswa menggunakan ChatGPT dan “model pembelajaran bahasa” lainnya untuk menghasilkan esai tingkat perguruan tinggi.
Namun AI juga dapat melakukan tugas-tugas yang menyelamatkan nyawa, seperti algoritma yang menganalisis gambar medis seperti sinar-X, pemindaian, dan ultrasound, untuk membantu dokter mengidentifikasi dan mendiagnosis penyakit seperti kanker dan penyakit jantung dengan lebih akurat dan cepat.
Pekan lalu, Perdana Menteri Rishi Sunak berbicara tentang pentingnya memastikan “rel” yang tepat tersedia untuk melindungi dari potensi bahaya, mulai dari disinformasi dan keamanan nasional hingga “ancaman eksistensial”, sekaligus mendorong inovasi.
Namun Dr Parker mengatakan meskipun terdapat peningkatan fokus pada etika dalam penelitian AI, sudah terlambat dalam siklus pengembangan untuk beralih dari penelitian ke penerapan secara luas di masyarakat.
Dia berkata: “Kami memiliki bidang penelitian etika AI… kami memiliki bidang penelitian teknis AI, dan bidang tersebut belum benar-benar terhubung.”
Mengenai implikasi sosial, Dr Parker mengatakan bahwa etika dan keandalan harus dibangun dalam setiap langkah penelitian agar robot dapat diterima sebagai bagian dari masyarakat.
Dia berkata: “Robot sosial jelas memiliki pertimbangan etis yang penting, mungkin lebih dari bidang robotika lainnya, karena robot sosial berada di ruang kerja yang sama dengan manusia.
“Mereka sering kali bekerja sama dengan manusia, dan tentu saja, ada penelitian penting yang telah dilakukan untuk melihat pertimbangan etis robotika sosial.
“Robot sosial sering digunakan pada populasi yang rentan – dengan anak-anak, dengan orang lanjut usia, (dengan) mungkin mereka yang sakit… (dan) mungkin ada beberapa implikasinya karena berkaitan dengan keprihatinan masyarakat.”
