Apakah AI merupakan ancaman eksistensial? Beberapa ahli mengatakan peringatan baru itu berlebihan

Perdebatan bercampur antara mereka yang menganggap kecerdasan buatan (AI) dapat menghancurkan umat manusia dan lainnya yang melihat teknologi sebagai pengolah kata superlatif.

Kelompok itu memperingatkan para pemimpin industri minggu ini AI suatu hari nanti dapat menimbulkan ancaman eksistensial bahaya manusia dan sosial harus dianggap setara dengan perang nuklir. Tetapi ahli lain mengangkat bahu sebagai tanggapan.

“Ketika tergoda untuk berspekulasi tentang mesin AI manusia super atau mesin berbahaya yang membawa kiamat, kenyataannya adalah kita belum berada di tingkat kecanggihan itu.” Adnan Masudkepala arsitek teknologi AI UST katanya kepada Lifewire dalam wawancara email. “AI, seperti yang kita kenal sekarang, tidak menimbulkan ancaman eksistensial. Kita masih memiliki akses terhadap keputusan seekor anjing untuk melakukan sesuatu, apalagi kecerdasan manusia.”

Kasus Bencana AI

Proposal baru-baru ini oleh beberapa pemimpin AI menunjukkan persamaannya antara takdir dan kubu kegelapansurat tersebut ditandatangani oleh lebih dari 350 eksekutif, peneliti, dan insinyur yang bekerja di AI, termasuk penulis di bidang tersebut seperti Geoffrey Hinton Dan Joshua Bengio,

“Mengurangi risiko kepunahan AI harus menjadi prioritas global bersama dengan risiko sosial lainnya, seperti pandemi dan perang nuklir,” bunyi salah satu pernyataan yang dirilis di manifesto. Pusat Keamanan AIpesanan tidak menguntungkan.

Proposal tersebut dirilis ke pemerintah di seluruh dunia untuk sistem AI *bahkan banyak orang dalam industri AI mengatakan Semacam AI * atau untuk sementara menghentikan pengembangan teknologi sementara rencana keselamatan dapat dibuat.

Tapi Masood termasuk di antara mereka yang mengatakan bahaya yang ditimbulkan oleh AI meningkat.

“Saat kami membandingkan AI dengan ancaman nyata seperti pandemi atau perang nuklir, kontrasnya sangat mencolok,” tambahnya. “Kami menghubungkan ancaman eksistensial yang kami hadapi dengan kesehatan fisik, perubahan iklim, kemiskinan ekstrem, dan perang. AI, dalam kondisinya saat ini, menimbulkan ancaman sedemikian rupa sehingga tampaknya menciptakan kesetaraan yang salah.

Risiko AI vs. Imbalan AI

Dia juga mengenali penguat AI seperti Masood AI bukannya tanpa risiko, menunjukkan bahwa ada kasus perlakuan tidak adil algoritmik atau teknologi AI untuk meringankan kampanye disinformasi. Misalnya, dia mengutip insiden baru-baru ini yang melibatkan alat AI memberikan keterangan hukum palsu dalam pengajuan pengadilan yang menunjukkan bahwa AI tidak sempurna, dan informasi yang dihasilkannya perlu diperlakukan dengan tingkat pengawasan yang sama seperti informasi dari sumber lain.

“Tapi bahaya ini, meski hebat, tidak,” katanya. “Ada risiko yang muncul melalui AI yang bijaksana, pengujian yang kuat, dan bertanggung jawab. Kita dapat menerapkan AI untuk mengelola dan memitigasinya. Tetapi sekali lagi, risiko ini tidak ada – mereka adalah bagian dari proses berkelanjutan untuk mengintegrasikan teknologi baru ke dalam struktur sosial kita.”

Pakar lain menunjukkan lebih banyak bahaya biasa dari AI daripada kepunahan manusia, seperti kemungkinan pengembangan chatbot dapat mengarah pada penyebaran informasi pribadi. David Ottenheimerpresiden kepercayaan dan etika digital untuk menyelaDia mengatakan dalam email bahwa ChatGPT baru-baru ini mengklarifikasi bahwa mereka tidak menggunakan data yang dikirimkan oleh pelanggan untuk menginstal atau meningkatkan modelnya kecuali mereka ikut serta.

“Terlambat ini menunjukkan kesenjangan disorganisasi yang serius dan pengabaian yang hampir buta terhadap perencanaan dan pelaksanaan data pengadaan,” tambahnya. “Seolah-olah janji tidak mendengar semua orang berteriak dari gunung bahwa pengajaran yang aman sangat penting untuk masyarakat yang sehat.”

Banyak ahli berpendapat bahwa potensi risiko AI lebih besar daripada manfaat yang ditawarkannya. Misalnya, AI digunakan dalam perawatan kesehatan untuk mengembangkan vaksin dan meningkatkan diagnosis.

“AI memegang janji besar untuk membantu memajukan tujuan empat kali lipat, pengalaman pasien, kesehatan masyarakat, pengurangan biaya, dan kesejahteraan masyarakat.” Christina Swisherpemimpin dari Proyek Ronin, sebuah tim yang menggunakan teknologi untuk memecahkan masalah klinis, kata mereka dalam sebuah wawancara. “Pasien selalu berpikir dan menunggu, dan kami memiliki sistem kesehatan yang memiliki banyak keuntungan jika kami dapat menggunakan AI dalam berpikir, dengan tetap menjaga keselamatan dan etika di setiap tahap siklus hidup sistem AI.”