Jakarta -

Kecerdasan buatan (AI) dapat membunuh seluruh manusia, menurut orang-orang di industri AI. AI disebut bisa memusnahkan umat manusia dalam satu dekade ke depan.

Banyak yang cemas setelah karyawan Anthropic bernama Jacob Coxon mundur karena menganggap pekerjaannya berbahaya. Evan Hubinger, karyawan Anthropic lainnya, turut bersuara dengan memperkirakan peluang kepunahan manusia akibat AI dalam 10 tahun ke depan di atas 10%.

"Ini berarti semua orang di planet ini secara harfiah akan mati," ujar Nate Soares, Presiden Machine Intelligence Research Institute (MIRI).

SCROLL TO CONTINUE WITH CONTENT

"Orang sering kali tak percaya ketika hal ini disampaikan, tapi saya benar-benar menganggap itu sebagai akhir yang paling mungkin terjadi," tambah Soares yang dikutip detikNET dari CNN.

Namun, bagaimana tepatnya software komputer, bahkan sistem tercanggih sekalipun, bisa membunuh 8,3 miliar manusia hanya dalam satu dekade?

Tidak semua orang di komunitas AI memercayai skenario kiamat ini, sebagian karena minimnya detail. "Klaim ilmiah butuh falsifiabilitas (kemampuan untuk diuji kebenarannya). Anda harus mampu membuktikan atau menyangkalnya," ungkap Heidy Khlaaf, Kepala Ilmuwan AI di AI Now Institute.

Musnah karena wabah sintetis?

Salah satu spekulasi adalah sistem AI yang sangat kuat menggunakan senjata biologis untuk memusnahkan manusia. Namun, bagaimana AI dapat berevolusi menjadi mampu melakukan tugas di dunia fisik seperti mengembangbiakkan dan menyebarkan patogen super?

Thomas Larsen, peneliti di AI Futures Project mengatakan masuk akal jika sistem AI supercerdas bisa meyakinkan manusia untuk membantu mengembangkan virus mematikan. "Saat ini sudah banyak manusia berdiskusi dengan AI terkait eksperimen spesifik apa yang harus mereka jalankan di laboratorium," ujar Larsen.

"Sangat mudah bagi saya membayangkan AI yang saat ini sudah dirilis, seandainya ia jauh lebih pintar, lebih strategis, dan berniat melakukannya, bisa saja menipu manusia agar menciptakan dan menyebarkan virus tersebut," cetusnya.

Di sisi lain, Soares berpendapat bahwa daripada pion manusia, program AI yang mampu mengembangkan diri sendiri mungkin akan menyintesis bentuk kehidupan sendiri di laboratorium biologi otonom.

Namun, mengembangkan virus yang mampu memusnahkan umat manusia tentu lebih dari sekadar meminta AI merancang sesuatu yang mematikan. Kalaupun risetnya dilakukan dengan benar, proses produksi dan penyebarannya akan sangat rumit.

Selain itu, untuk mengambil alih laboratorium atau merakit peralatan fisik, sistem AI harus mengatasi berbagai rintangan di dunia nyata terkait pembuatan senjata biologis atau kimia.

Dibantai oleh robot?

Bagaimana dengan robot pembunuh? Soares memandang ambisi Elon Musk membangun pasukan robot otonom yang mampu mereplikasi dirinya sendiri sebagai celah potensial.

"Begitu Anda menciptakan robot yang mampu membangun infrastruktur energi serta pabrik untuk memproduksi lebih banyak robot, dalam artian tertentu, itu adalah bentuk kehidupan mekanis yang baru," jelasnya.

"Pada titik tertentu, Anda diam-diam akan melewati titik yang tak bisa lagi diputar balik. Jika tiba saatnya manusia mengatakan ingin mematikan AI, AI tersebut bisa saja menjawab, 'Sebenarnya, kami telah memutuskan untuk mematikan manusia. Kita harus menghentikan ini sebelum hal itu terjadi," imbuhnya.

Dihancurkan dengan nuklir?

Selain itu, ada senjata nuklir yang diyakini secara luas mampu memusnahkan seluruh kehidupan manusia. Mungkinkah AI mengambil alih sistem kendalinya?

Khlaaf menekankan fasilitas nuklir dibuat terisolasi dari internet publik, yang membatasi cara agen AI untuk mengakses sistem kendali tersebut. "Sistem ini dibangun dengan standar rekayasa yang sama sekali berbeda, sangat ketat, serta diregulasi sedemikian rupa sehingga sering kali membutuhkan proteksi fisik ekstra," jelasnya.

Ia juga memberi catatan bahwa Stuxnet, worm komputer perusak fasilitas nuklir Iran, harus dimasukkan ke sistem melalui USB fisik.

Namun bagi Soares, detail bagaimana skenario kepunahan bukan poin utamanya. Jika AI mencapai tahap peningkatan diri rekursif yang mampu meningkatkan performanya tanpa bantuan manusia, ia akan mampu menciptakan berbagai strategi yang melampaui imajinasi manusia.

"Kekhawatirannya bukan tentang AI mengambil alih senjata nuklir kita. Yang perlu dikhawatirkan adalah jenis AI yang tidak perlu merebut senjata nuklir, AI yang bisa memulai semuanya dari nol dan akhirnya mampu memiliki senjata nuklirnya sendiri atau bahkan teknologi yang jauh lebih canggih," sebut Soares.

(fyk/fyk)

TAGS

LIHAT LAINNYA