Perlindungan masa depan: Bagaimana Anda menghentikan AI agar tidak menguasai umat manusia?

Kecerdasan buatan (AI) mungkin terbukti menjadi ancaman serius bagi dunia, tetapi para ahli mengatakan jalan itu bisa dilawan.

ilmuwan Universitas Oxford baru-baru ini memperingatkan tentang “AI manusia super” itu bisa berakhir setidaknya sama berbahayanya dengan senjata nuklir. Perdebatan adalah bagian dari yang berkembang seputar potensi bahaya AI.

“Teknologi AI sudah ada yang cukup kuat untuk menjamin kehati-hatian saat digunakan dalam skala global atau nasional.” sepupu Gordonpresiden AI Technologies di NexOptic, sebuah perusahaan solusi pencitraan AI, memberi tahu Lifewire dalam wawancara email. “Tidak perlu membayangkan skenario seperti Terminator; ini bisa membosankan sebagai AI yang membantu proses hukum atau peraturan, yang terkadang mengatur hukum dengan cara yang canggung, atau AI yang dirancang untuk memaksimalkan keterlibatan di media sosial.”

AI manusia super?

Michael Cohenmahasiswa doktoral Oxford laki-laki, prognosis AI. dengan diskusi sebelum ilmu pengetahuan dan teknologi Inggris bertanggung jawab. Dia memperingatkan bahwa AI tingkat lanjut akan memusnahkan umat manusia.

Tetapi Selmer Bringsfjorddirektur AI & Reasoning Lab di Institut Politeknik Rensselaeryang berspesialisasi dalam dasar matematika dan filosofi AI, mengatakan dalam alamat email bahwa AI manusia super seharusnya tidak berbahaya.

“Sebuah AI yang hanya mendekati kecerdasan manusia dan bergerak secara otonom dan kuat akan cukup untuk mengakhiri umat manusia,” katanya.

Untuk mengilustrasikan maksudnya, Bringsjord menyarankan kasus hipotetis bom nuklir yang bekerja lebih seperti ranjau. Perangkat tersebut disembunyikan di bawah tanah, dan meledak jika dan hanya jika suhu tanah tersebut mencapai 2 derajat Celcius.

“Dalam bahasa AI, ‘agen buatan’ ini merasakan suhu di sekitarnya, dan mengambil salah satu dari dua tindakan sebagai hasilnya, meledakkan versus tetap tidak aktif,” kata Bringsjord. “AI ini cukup untuk menimbulkan masalah bagi umat manusia, bukan? Itu masih kabur secara intelektual.”

Jangan jahat

Salah satu cara untuk mencegah AI menjadi bencana adalah dengan mengontrol bagaimana kecerdasan buatan dikembangkan dan digunakan. Bringsjord mengatakan pendekatan itu menguntungkan.

“Bahkan bahan baku yang tersedia untuk membuat bom nuklir pun diatur,” katanya. “Rasional, semua pemimpin teknologi perlu mengatur AI dan ‘bahan mentah’ yang dapat digunakan untuk menciptakan AI yang paling berbahaya. Bagaimana AI didekati bergantung pada bahan mentah yang berbeda.”

Bringsjord menunjuk contoh kasus bahasa populer seperti ChatGPT sebagai contoh AI yang harus diatur. “Mengapa? Karena menurut definisi, tindakan AI tersebut tidak dapat diverifikasi secara formal dengan melihat lebih langsung pada dasar tindakan tersebut,” imbuhnya. “Itu bagus untuk obrolan bodoh, tidak bagus untuk AI, yang jelas mandiri dan kuat.”

Tidak semua orang yakin bahwa AI yang berbahaya dapat dihentikan. “Dalam format saat ini, ada banyak cara bagi peneliti dan pengguna bisnis untuk melindungi aplikasi mereka,” kata Gordon. “Singkatnya, dengan AI ‘manusia super’ sejati, itu tidak terlalu jelas.”

Gordon menunjukkan bahwa orang-orang terkemuka di lapangan telah mengusulkan “penggabungan” dengan manusia super AI sehingga manusia dapat mengimbangi teknologi dan tidak ketinggalan.

“Mungkin akan ada cara untuk menanamkan nilai-nilai ini ke dalam sistem sehingga mereka berperilaku kurang lebih dalam nilai-nilai yang berpusat pada manusia,” kata Gordon. “Tapi tidak jelas bagaimana tepatnya ini dapat dilakukan secara efektif untuk teknologi yang benar-benar ‘manusia super’.”

Beberapa pengamat mengatakan bahwa AI adalah ancaman. Christopher PutihPresiden Laboratorium NEC AmerikaLaboratorium penelitian mengatakan dalam email bahwa itu bisa dibandingkan dengan kalkulator AI.

“Itu bisa mengerjakan matematika lebih cepat daripada manusia, tapi itu adalah alat yang tidak dianggap berbahaya atau layak untuk diatur,” tambahnya. “Wajar jika kita menginginkan alat berpikir yang meningkatkan kemampuan kita untuk berpikir dan memecahkan masalah.”

Buku putih menunjukkan bahwa sistem AI cenderung “manusia super” hanya untuk tugas-tugas tertentu dan terbatas.

“Terlepas dari kemajuan luar biasa kami dalam AI, kami belum memiliki kemampuan atau teknologi untuk mengembangkan mesin berpikir serba guna yang menjadikan manusia lebih dari beberapa dimensi,” katanya.