ChatGPT merangkum skandal pelecehan seksual palsu dan menyebut profesor hukum asli sebagai tersangka
Chatbot OpenAI, ChatGPT, secara salah menuduh seorang profesor hukum Amerika dengan memasukkannya ke dalam daftar pengacara yang melakukan pelecehan seksual terhadap seseorang, dengan alasan tidak ada Washington Post laporan.
Dalam sebuah opini yang diterbitkan di USA Today, profesor Universitas George Washington Jonathan Turley menulis bahwa dia dituduh secara salah oleh ChatGPT menyerang siswa dalam perjalanan yang “tidak pernah dia lakukan” saat ‘bekerja di sekolah tempat dia “tidak pernah mengajar”.
“Ini hanyalah kisah peringatan terbaru tentang bagaimana ‘kecerdasan buatan’ dapat terjadi,” katanya pada hari Senin, menyoroti beberapa masalah akurasi dan keandalan pada chatbot AI seperti ChatGPT.
Sebagai bagian dari penelitian, seorang pengacara dilaporkan meminta ChatGPT untuk menyusun daftar pengacara yang melakukan pelecehan seksual.
Chatbot AI mengembalikan daftar yang Mr. termasuk nama Turley, secara keliru menuduhnya membuat komentar yang menjurus ke arah seksual dan mencoba menyentuh seorang siswa selama kunjungan kelas ke Alaska, mengutip artikel palsu di Pos menurutnya itu dari tahun 2018.
Profesor Universitas George Washington mencatat bahwa artikel seperti itu tidak ada juga digaungkan oleh surat kabar.
“Yang paling mengejutkan adalah tuduhan palsu ini tidak hanya dibuat oleh AI, namun tampaknya didasarkan pada a Pos artikel yang tidak pernah ada,” cuit Turley.
“Ketika saya pertama kali dihubungi, saya menganggap tuduhan itu lucu. Setelah beberapa kali direnungkan, hal itu menjadi lebih mengancam,” katanya.
Dalam kasus lain, ChatGPT secara keliru mengklaim bahwa seorang walikota di Australia telah dipenjara karena penyuapan.
Brian Hood, walikota Hepburn Shire, juga mengancam akan menuntut pencipta ChatGPT OpenAI atas tuduhan palsu tersebut.
Pada awal tahun 2000-an, ia dinyatakan bersalah dalam skandal suap asing yang melibatkan anak perusahaan Reserve Bank of Australia.
Namun, dia bekerja untuk anak perusahaan tersebut, lapor Reuters, mengutip pengacara yang bernama Mr. Kap terwakili.
Pengacara walikota Australia dilaporkan telah mengirimkan surat keprihatinan kepada OpenAI, memberikan perusahaan tersebut waktu 28 hari untuk memperbaiki kesalahan mengenai Hood atau menghadapi kemungkinan tuntutan pencemaran nama baik.
Seorang juru bicara Microsoft, yang dikatakan telah menginvestasikan $10 miliar pada OpenAI dan mengintegrasikannya ke dalam mesin pencari Bing, tidak dapat dihubungi untuk dimintai komentar, kata Reuters.
Beberapa pakar telah menyatakan keprihatinannya dalam beberapa bulan terakhir bahwa penggunaan chatbot dapat mengganggu dunia akademis, terutama karena kekhawatiran mengenai keakuratan konten yang dihasilkannya.
Kate Crawford, pakar AI dari University of Southern California, menyebut cerita yang dijabarkan secara salah oleh chatbot AI sebagai “halusinasi”.
ChatGPT mendapatkan ketenaran pada bulan Desember tahun lalu karena kemampuannya menanggapi serangkaian pertanyaan dengan keluaran seperti manusia.
Beberapa ahli berspekulasi bahwa hal ini dapat merevolusi seluruh industri dan bahkan menggantikan alat seperti mesin pencari Google.
Para peneliti, termasuk di Harvard School of Medicine dan Wharton Business School di Pennsylvania, telah menemukan bahwa chatbot dapat memecahkan tes bakat yang diperuntukkan bagi siswa.
Namun pihak lain juga menyatakan optimismenya.
Departemen Pendidikan New York mengatakan mereka prihatin dengan dampak negatif chatbot terhadap pembelajaran siswa, dengan alasan “kekhawatiran tentang keamanan dan keakuratan konten.”
Baru-baru ini, ketika Google mulai meluncurkan pesaing ChatGPT-nya, Bard, kepada beberapa orang dewasa di Inggris dan AS, Google memperingatkan bahwa chatbot tersebut dapat menyebarkan informasi yang salah dan menunjukkan bias.
Raksasa teknologi ini mencatat bahwa chatbot “belum sepenuhnya mampu membedakan antara informasi yang akurat dan tidak akurat,” karena ia memprediksi jawaban berdasarkan informasi lain yang telah dipelajarinya.
Kata juru bicara OpenAI Niko Felix Washington Post dalam pernyataan bahwa peningkatan akurasi faktual adalah “fokus signifikan” bagi perusahaan, dan menambahkan bahwa perusahaan tersebut “membuat kemajuan”.
“Saat pengguna mendaftar ke ChatGPT, kami berusaha setransparan mungkin sehingga tidak selalu menghasilkan respons yang akurat,” katanya.
Independen telah menghubungi OpenAI untuk memberikan komentar.