AI ‘Godfather’ Geoffrey Hinton memperingatkan terhadap bahaya sambil berhenti bekerja di google
Geoffrey Hinton, kecerdasan buatan “ayah baptis”, mengundurkan diri dari karyanya di Google, mengatakan bahwa “aktor buruk” akan menggunakan teknologi AI baru untuk membahayakan orang lain dan bahwa alat yang telah ia bantu dapatkan akhir umat manusia.
Dr Hinton menghabiskan seluruh karirnya untuk menyelidiki pengembangan dan penggunaan teknologi AI, dan pada tahun 2018 menerima Turing Award untuk pekerjaannya.
Sejak 2013, ia telah membagi waktunya antara tim peneliti intelijen buatan Google dan University of Toronto, di mana ia adalah seorang profesor emeritus.
Dalam profil New York Times, Dr Hinton mengatakan “sulit untuk melihat bagaimana Anda dapat mencegah aktor buruk menggunakannya untuk hal -hal buruk”.
Anda bisa mendapatkan rpambot yang sangat efektif, itu akan memungkinkan para pemimpin otoriter untuk memanipulasi pemilih mereka
Geoffrey Hinton
“Saya menghibur diri dengan alasan normal: jika tidak, orang lain akan memilikinya,” katanya kepada surat kabar itu, menambahkan bahwa kemajuan yang dibuat dalam teknologi AI selama lima tahun terakhir adalah “Eng”.
Namun, Dr Hinton mengatakan di Twitter kemarin bahwa dia berpikir bahwa Google bertindak “dengan sangat bertanggung jawab”, menambahkan bahwa dia meninggalkan perusahaan “sehingga saya dapat berbicara tentang bahaya AI tanpa mempertimbangkan bagaimana pengaruhnya terhadap Google”.
Program AI seperti Midjourney dan ChatGPT telah menjadi viral di situs media sosial, dengan pengguna memposting gambar palsu selebriti dan politisi, dan siswa yang menggunakan chatgpt dan ‘model pembelajaran bahasa’ lainnya untuk menghasilkan esai gelar universitas.
Namun, semakin banyak ahli mengklaim bahwa pengembangan AI harus ditunda atau dihentikan, dengan lebih dari seribu pemimpin teknis menandatangani surat untuk meminta ‘moratorium’ pada bulan Maret.
Dalam wawancara lebih lanjut dengan BBC, Dr. Hinton mengatakan dia sekarang khawatir bahwa kecerdasan buatan menimbulkan risiko serius bagi orang -orang.
“Anda bisa mendapatkan bot spam yang sangat efektif, itu akan memungkinkan para pemimpin otoriter untuk memanipulasi pemilih mereka,” katanya.
‘Ada hal spesifik lain yang ingin saya bicarakan, yang merupakan risiko eksistensial dari apa yang terjadi ketika hal -hal ini menjadi lebih cerdas daripada kita.
‘Kami adalah sistem biologis, ini adalah sistem digital, dan perbedaannya adalah bahwa dengan sistem digital Anda memiliki banyak salinan dengan bobot yang sama, model dunia yang sama.
‘Semua salinan ini dapat belajar secara terpisah, tetapi segera berbagi pengetahuan mereka. Seolah -olah Anda memiliki 10.000 orang, dan ketika satu orang mempelajari sesuatu, semua orang secara otomatis mengetahuinya. Beginilah obrolan ini dapat diketahui lebih dari siapa pun. ‘
Dr Hinton, 75, belajar psikologi eksperimental di University of Cambridge sebelum memperoleh gelar PhD dalam kecerdasan buatan di University of Edinburgh pada tahun 1978.
Pada 2012, Dr. Hinton dan dua mahasiswa pascasarjana membangun ‘jaringan saraf’ yang dapat menganalisis foto dan mengidentifikasi objek biasa, yang dianggap sebagai tonggak penting dalam pengembangan AI.
Selama karirnya, Dr Hinton menolak untuk mengambil pembiayaan dari Angkatan Darat AS, dan meninggalkan Akademi di AS dan pindah ke Kanada untuk melanjutkan penelitiannya.