Penelitian yang meresahkan memperingatkan bahwa AI bisa menjadi ‘Filter Hebat’ yang memusnahkan peradaban manusia
Kecerdasan buatan yang canggih dapat menimbulkan risiko bencana bagi umat manusia dan melenyapkan seluruh peradaban, sebuah studi baru memperingatkan.
AI bisa menjadi jawaban potensial terhadap paradoks Fermi, dengan potensi untuk memusnahkan kehidupan cerdas di alam semesta sebelum dapat melakukan kontak dengan makhluk lain, menurut studi peer-review yang diterbitkan dalam jurnal Nature. arXiv server pracetak.
Paradoks Fermi, yang umumnya digambarkan dengan ungkapan “Di mana semua orang?”, telah membingungkan para ilmuwan selama beberapa dekade. Hal ini mengacu pada gagasan yang meresahkan bahwa jika ada kemungkinan adanya kehidupan di luar bumi di alam semesta, lalu mengapa manusia belum pernah menemukannya.
Banyak teori telah diajukan, menawarkan penjelasan berbeda atas keberadaan kita yang menyendiri sejauh ini di kosmos.
Meskipun perhitungan probabilistik, seperti persamaan Drake yang populer, menunjukkan bahwa mungkin terdapat sejumlah peradaban cerdas di galaksi, masih terdapat keheningan kosmik yang membingungkan.
Salah satu hipotesis populer – yang dikenal sebagai Filter Besar – menyatakan bahwa peristiwa tertentu yang diperlukan untuk munculnya kehidupan berakal sangat kecil kemungkinannya, sehingga terjadilah keheningan kosmik.
Persamaan logis dari teori ini adalah bahwa beberapa fenomena kosmik yang membawa bencana mungkin menghalangi perluasan kehidupan di seluruh alam semesta.
“Ini bisa jadi merupakan kejadian alami, atau yang lebih meresahkan, sesuatu yang dilakukan makhluk cerdas terhadap diri mereka sendiri yang menyebabkan kepunahan mereka sendiri,” tulis penulis studi Mark Bailey dari National Intelligence University (NIU) di AS.
Penelitian baru ini berteori bahwa kemajuan AI bisa menjadi peristiwa risiko bencana yang berpotensi melenyapkan seluruh peradaban.
Dalam studi tersebut, Dr. Bailey membingkai konteks Great Filter dalam potensi risiko jangka panjang dari teknologi seperti AI yang belum sepenuhnya kita pahami.
“Manusia sangat buruk dalam memperkirakan risiko jangka panjang secara intuitif,” kata ilmuwan NIU tersebut, seraya menambahkan bahwa kita tidak sepenuhnya memahami AI, namun “AI dengan cepat menyerang kehidupan kita.”
“AI di masa depan kemungkinan besar akan mengarah pada sistem yang lebih dapat digeneralisasikan, berorientasi pada tujuan, dan memiliki kontrol yang lebih bermakna, sehingga konsekuensi dari hasil yang tidak diinginkan akan menjadi jauh lebih buruk,” ia memperingatkan.
Dr Bailey mengemukakan apa yang disebutnya sebagai “argumen spesies kedua”, yang meningkatkan kemungkinan bahwa AI yang canggih dapat secara efektif bertindak sebagai “spesies cerdas kedua” yang pada akhirnya akan berbagi planet dengan kita.
Mengingat apa yang terjadi ketika manusia modern dan Neanderthal hidup berdampingan di Bumi, para peneliti NIU mengatakan “potensi dampaknya sangat buruk.”
“Masuk akal bahwa teknologi yang tidak terkendali, terutama yang memiliki tujuan seperti AI, akan menjadi kandidat yang baik untuk Great Filter,” tulis Dr Bailey dalam penelitian tersebut.
“Kita harus bertanya pada diri kita sendiri; bagaimana kita mempersiapkan diri menghadapi kemungkinan ini?”
