Ketakutan Terbesar Stephen Hawking: Akan Ada Perang Dunia Lawan Robot

Tentang kecelakaan yang dilakukan sistem AI atau komputerisasi, Hawking mencontohkan kejadian Flash Crash di pasar saham tahun 2010.

Menurutnya, hal serupa juga bisa terjadi pada sistem komputerisasi militer.

"Waktu terbaik untuk menghentikan perlombaan senjata otonom adalah sekarang," tegas Hawking.

Terbaik atau Terburuk

Meski begitu, AI juga bisa membawa perubahan ke arah yang lebih baik.
Dalam jangka menengah misalnya, Hawking berpendapat, AI bisa mengotomatisasi pekerjaan kita. Hal ini membawa kemakmuran dan persamaan hak yang besar bagi umat manusia.

"Seperti yang disadari oleh ahli matematika Irving Good pada 1965, mesin dengan kecerdasan melebihi manusia bisa meningkatkan desain mereka berkali lipat lebih baik, dalam apa yang penulis fiksi ilmiah Vernor Vinge disebut singularitas teknologi," ujar Hawking.

"Seseorang dapat membayangkan teknologi seperti itu mengalahkan pasar keuangan, melampaui para peneliti, memanipulasi para pemimpin, dan berpotensi menundukkan kita dengan senjata yang bahkan tidak dapat kita pahami," sambungnya.

Itu menjadi efek jangka menengah yang diperkirakan Hawking. Sedangkan dampak jangka pendek AI, menurut Hawking, tergantung pada siapa yang mengendalikannya.

Artinya, AI bisa menjadi teknologi yang membawa kebaikan bagi umat manusia atau sebaliknya bergantung pada penggunanya.

Untuk dampak jangka panjang, Hawking menyebut itu tergantung pada apakah AI masih dapat dikontrol manusia atau tidak.

Baca juga: Akurat 95 Persen, AI Google Bisa Prediksi Kapan Seseorang Meninggal

"Singkatnya, munculnya AI super cerdas akan menjadi hal terbaik atau terburuk yang pernah terjadi pada umat manusia. Risiko nyata dengan AI bukanlah kedengkian, tetapi kompetensi," tuturnya.

"AI super cerdas akan sangat baik dalam mencapai tujuannya, dan jika sasaran tersebut tidak selaras dengan tujuan kita, kita dalam masalah," Hawking menambahkan.

Peran Hawking

Dalam tulisannya, Hawking juga menceritakan bahwa pada 2015 lalu, dia bersama dengan Elon Musk dan ahli AI lain menandatangi surat terbuka tentang kecerdasan buatan.

Surat tersebut berisi seruan untuk terus melakukan penelitian serius tentang dampak AI pada masyarakat.

Hawking menegaskan, "Bagi pembuat kebijakan dan masyarakat umum, surat itu dimaksudkan untuk menjadi informatif tetapi tidak mengkhawatirkan."

"Pada Oktober 2016, saya juga membuka sebuah pusat penelitian di Cambridge yang akan mencoba untuk menjawab beberapa pertanyaan dari pesatnya perkembangan penelitian AI," imbuhnya.

Dengan nama Leverhulme Centre for the Future of Intelligence, lembaga ini didedikasikan Hawking untuk meneliti masa depan kecerdasan buatan yang penting bagi manusia.

"Kami sadar akan potensi bahaya (AI), tetapi mungkin dengan alat-alat revolusi teknologi baru ini kita bahkan akan mampu memperbaiki sebagian kerusakan yang terjadi pada dunia alam melalui industrialisasi," kata Hawking.

"Masa depan kita adalah perlombaan antara kekuatan teknologi kita yang semakin besar dan kebijaksanaan yang kita gunakan. Mari pastikan bahwa kebijaksanaan menang," tegasnya.

Baca juga: Makalah Terakhir Stephen Hawking Diterbitkan, Apa Isinya?