AI mungkin berbahaya, tapi inilah mengapa Anda harus mengatakan para ahli bukanlah permainan alam, tapi terlalu berlebihan

Sulit untuk mengetahui siapa yang akan mempercayai bahaya kecerdasan buatan (AI) ketika berbicara tentang diskusi.

Bertambahnya jumlah ahli mereka mengungkapkan teror mereka dalam meningkatkan kemampuan AI. Sementara itu a kertas baru memicu gagasan bahwa beberapa sumber daya di sekitar AI dapat digelembungkan.

“Sistem AI yang dirancang dengan buruk dan tidak dikembangkan dengan benar telah menyebabkan kerugian bagi banyak orang, jadi rasa takut terhadap teknologi, atau mungkin kemarahan pada beberapa cara penggunaannya, benar-benar dibenarkan.” Irina Raicudirektur pelatihan etika di Pusat Markkula untuk Etika Terapan di Universitas Santa Clara kata Lifewire dalam wawancara email. “Tapi ada juga kekhawatiran tentang peristiwa yang digerakkan oleh AI yang mungkin terjadi atau tidak terjadi jauh di masa depan.”

Pasukan Urusan Adept AI

Kepanikan seputar AI menjadi eskatologis. Tokoh masyarakat mengatakan mereka khawatir AI dapat menyebabkan rasa sakit yang luar biasa akhir umat manusiaGalfridus Hinton, pernah menjadi pendamping Hai; Pengunduran diri yang baru saja diumumkan dari Google, mengatakan bahwa dia sekarang menyesali pekerjaannya dan takut dengan bakat AI.

Pada bulan Maret, Future of Life Institute merilis sebuah surat terbuka menghimbau semua laboratorium AI untuk segera melanjutkan setidaknya selama enam bulan dengan pelatihan sistem AI yang lebih unggul dari GPT-4.

“Sistem AI dengan kecerdasan kompetitif manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan, seperti yang diakui oleh penelitian ekstensif dan laboratorium AI terkemuka,” menurut surat itu. “… Perkembangan AI bisa berarti perubahan besar dalam sejarah kehidupan di bumi dan bagaimana perawatan dan sumber daya dikelola dan dikelola.”

AI untuk selamanya?

Tetapi banyak pakar AI mengungkapkan keraguan tentang beberapa prediksi pesimistis dari teknologi baru tersebut. Salah satu klaim terbaru tentang AI adalah dapat mempelajari contoh besar bahasa Inggris seperti GPT-4 secara mandiri. Misalnya, peneliti Microsoft mengatakan model bahasa GPT-4 menunjukkan “percikan kecerdasan buatan umum.”ide di balik gambar AI Love saat ini.

Ketakutan akan belajar mandiri AI harus, paling tidak, dipermalukan. A makalah terbaru oleh Universitas Stanford para ilmuwan menunjukkan contoh ketika model besar tiba-tiba menunjukkan kemampuan yang tidak diinginkan untuk benar-benar memiliki “keajaiban” yang dihasilkan oleh para peneliti.

AI berbahaya karena berpotensi digunakan untuk penggunaan yang berbahaya; John YawneyKepala Analisis Ke bintang-bintang kata Lifewire dalam email.

“Seperti kemajuan teknologi lainnya, ada potensi aktor jahat menggunakan AI untuk tujuan jahat dengan mengonfigurasi algoritme AI untuk menyelesaikan tujuan jahat seperti membuat video palsu, audio, dan konten penipuan lainnya,” tambahnya. “Ada juga kekhawatiran tentang kemampuan aplikasi militer, yang tidak dapat diabaikan sepenuhnya, tetapi selalu ada keseimbangan antara rasa takut akan pembalasan dan otoritas diplomatik yang perlu ditekan.”

Bahkan beberapa ancaman biasa, seperti AI, mungkin tidak terjadi; Srinath SridharCEO dari Regie.aikatanya dalam sebuah wawancara. “Mereka sering berpikir bahwa AI atau otomatisasi akan menggantikan manusia, tapi saya yakin ini jauh dari kebenaran dan mungkin berasal dari ketakutan akan perubahan,” tambahnya. “Jika Anda melihat sejarah otomatisasi dalam penjualan, setiap kali itu benar-benar meningkatkan jumlah pekerjaan.”

Dia harus ditakuti baik dari laki-laki maupun sebaliknya. Jo Ann Oravecprofesor Teknologi Informasi dan Manajemen Rantai Pasokan di Universitas Wisconsin-ArungDia memperkirakan bahwa manusia yang pemalu dapat dengan keras mengalahkan robot bertenaga AI dan kendaraan otonom.

“Cerita fiksi ilmiah sering menekankan aspek sensasional dari interaksi manusia-AI, dengan kesimpulan yang sering mengakibatkan kematian dan kehancuran,” kata Oravec dalam email. “Memang, diperlukan lebih banyak percakapan tentang bagaimana kehidupan kita akan ditingkatkan oleh AI. Kami telah mampu menghilangkan banyak aspek yang tidak menyenangkan dari pekerjaan dan kehidupan pendidikan kami dengan bantuan AI. Manusia memang harus belajar bagaimana bekerja sebagai kolaborator dengan sistem AI, yang akan membutuhkan jenis kesabaran dan pemahaman baru daripada dalam kolaborasi manusia.”