Ketakutan Terbesar Stephen Hawking: Akan Ada Perang Dunia Lawan Robot

KOMPAS.com - Meski telah meninggal dunia tujuh bulan lalu, pemikiran Stephen Hawking tetap diperhitungkan oleh banyak pihak.

Di antara banyak pemikiran, salah satunya mencoba menjawab pertanyaan besar dunia: akankah kecerdasan buatan atau artificial intelligence (AI) lebih pintar dibanding manusia?

Menurut Hawking, memang sangat menggoda untuk mengabaikan bahwa AI bisa sangat cerdas. Baginya, berpikir bahwa mesin bisa sangat pintar hanya sebuah fiksi ilmiah dapat menjadi potensi kesalahan terburuk.

"Ketika AI menjadi lebih baik dibanding manusia dalam mendesain AI, sehingga bisa memperbaiki diri sendiri tanpa bantuan manusia, kita mungkin menghadapi ledakan kecerdasan yang pada akhirnya menghasilkan mesin lebih pintar daripada manusia," ungkap Hawking dikutip dari thetimes.co.uk, Minggu (14/10/2018).

"Ketika itu terjadi, kita perlu memastikan bahwa komputer memiliki tujuan yang selaras dengan kita," imbuhnya.

Punya Banyak Manfaat

Hawking juga melihat AI yang lebih pintar dibanding manusia memiliki banyak manfaat. Misalnya saja AI sebagai cara untuk menghilangkan penyakit dan menghapus kemiskinan.

"Kita tidak dapat memprediksi apa yang mungkin dicapai ketika kecerdasan ini didorong oleh alat yang disediakan AI," tulis Hawking.

Baca juga: Lubang Hitam hingga Tuhan, Inilah Deretan Pemikiran Stephen Hawking

Bagi Hawking penciptaan AI akan menjadi sejarah terbesar umar manusia. Tapi dia juga mengingatkan bahwa hal ini bisa menjadi inovasi terakhir manusia kecuali kita bisa menghindari risikonya.

"Sementara bentuk primitif AI yang dikembangkan sejauh ini terbukti sangat berguna, saya takut ada konsekuensi dari menciptakan sesuatu yang bisa menyamai atau melampaui manusia," ucap Hawking.

Ketakutan tersebut, menurut Hawking, karena manusia dibatasi oleh evolusi biologis yang lambat. Lambatnya evolusi ini diperkirakan bisa membuat manusia tidak dapat bersaing dan dengan mudah digantikan.

"Di masa depan, AI bisa mengembangkan kemauannnya sendiri, sebuah keinginan yang bertentangan dengan kehendak kita (manusia)," sambungnya.

"Yang lain percaya bahwa manusia dapat memerintahkan laju teknologi untuk waktu yang lama, dan potensi AI untuk memecahkan banyak masalah dunia akan terwujud," tutur Hawking.

"Meskipun saya dikenal sebagai orang yang optimis mengenai ras manusia, saya tidak begitu yakin," tegasnya.

Bukan Untuk Militer

Hawking mencontohkan tentang teknologi senjata dunia saat ini. Di tengah lomba para militer dunia menciptakan senjata yang bisa memilih targetnya sendiri, PBB sedang memperdebatkan untuk membuat perjanjian yang melarang sejata otonom semacam itu.

Baca juga: Apa yang Terjadi Sebelum Big Bang? Stephen Hawking Menjawabnya

"Mengingat kekhawatiran tentang kemampuan kita untuk mempertahankan kontrol jangka panjang dari sistem AI yang lebih maju, haruskah kita mempersenjatai mereka dan menyerahkan pertahanan kita kepada mereka?" kata Hawking.

Tentang kecelakaan yang dilakukan sistem AI atau komputerisasi, Hawking mencontohkan kejadian Flash Crash di pasar saham tahun 2010.

Menurutnya, hal serupa juga bisa terjadi pada sistem komputerisasi militer.

"Waktu terbaik untuk menghentikan perlombaan senjata otonom adalah sekarang," tegas Hawking.

Terbaik atau Terburuk

Meski begitu, AI juga bisa membawa perubahan ke arah yang lebih baik.
Dalam jangka menengah misalnya, Hawking berpendapat, AI bisa mengotomatisasi pekerjaan kita. Hal ini membawa kemakmuran dan persamaan hak yang besar bagi umat manusia.

"Seperti yang disadari oleh ahli matematika Irving Good pada 1965, mesin dengan kecerdasan melebihi manusia bisa meningkatkan desain mereka berkali lipat lebih baik, dalam apa yang penulis fiksi ilmiah Vernor Vinge disebut singularitas teknologi," ujar Hawking.

"Seseorang dapat membayangkan teknologi seperti itu mengalahkan pasar keuangan, melampaui para peneliti, memanipulasi para pemimpin, dan berpotensi menundukkan kita dengan senjata yang bahkan tidak dapat kita pahami," sambungnya.

Itu menjadi efek jangka menengah yang diperkirakan Hawking. Sedangkan dampak jangka pendek AI, menurut Hawking, tergantung pada siapa yang mengendalikannya.

Artinya, AI bisa menjadi teknologi yang membawa kebaikan bagi umat manusia atau sebaliknya bergantung pada penggunanya.

Untuk dampak jangka panjang, Hawking menyebut itu tergantung pada apakah AI masih dapat dikontrol manusia atau tidak.

Baca juga: Akurat 95 Persen, AI Google Bisa Prediksi Kapan Seseorang Meninggal

"Singkatnya, munculnya AI super cerdas akan menjadi hal terbaik atau terburuk yang pernah terjadi pada umat manusia. Risiko nyata dengan AI bukanlah kedengkian, tetapi kompetensi," tuturnya.

"AI super cerdas akan sangat baik dalam mencapai tujuannya, dan jika sasaran tersebut tidak selaras dengan tujuan kita, kita dalam masalah," Hawking menambahkan.

Peran Hawking

Dalam tulisannya, Hawking juga menceritakan bahwa pada 2015 lalu, dia bersama dengan Elon Musk dan ahli AI lain menandatangi surat terbuka tentang kecerdasan buatan.

Surat tersebut berisi seruan untuk terus melakukan penelitian serius tentang dampak AI pada masyarakat.

Hawking menegaskan, "Bagi pembuat kebijakan dan masyarakat umum, surat itu dimaksudkan untuk menjadi informatif tetapi tidak mengkhawatirkan."

"Pada Oktober 2016, saya juga membuka sebuah pusat penelitian di Cambridge yang akan mencoba untuk menjawab beberapa pertanyaan dari pesatnya perkembangan penelitian AI," imbuhnya.

Dengan nama Leverhulme Centre for the Future of Intelligence, lembaga ini didedikasikan Hawking untuk meneliti masa depan kecerdasan buatan yang penting bagi manusia.

"Kami sadar akan potensi bahaya (AI), tetapi mungkin dengan alat-alat revolusi teknologi baru ini kita bahkan akan mampu memperbaiki sebagian kerusakan yang terjadi pada dunia alam melalui industrialisasi," kata Hawking.

"Masa depan kita adalah perlombaan antara kekuatan teknologi kita yang semakin besar dan kebijaksanaan yang kita gunakan. Mari pastikan bahwa kebijaksanaan menang," tegasnya.

Baca juga: Makalah Terakhir Stephen Hawking Diterbitkan, Apa Isinya?