KE Surat ditandatangani bersama oleh Elon Musk dan ribuan lainnya menyerukan penghentian penelitian kecerdasan buatan telah memicu badai api setelah para peneliti yang dikutip dalam surat tersebut mengutuk penggunaan karya mereka, beberapa penandatangan terungkap sebagai palsu dan yang lainnya menarik diri dari dukungan mereka.
Pada 22 Maret, lebih dari 1.800 penandatangan – termasuk Musk, ilmuwan kognitif Gary Marcus, dan salah satu pendiri Apple Steve Wozniak – menyerukan jeda enam bulan untuk mengembangkan sistem “lebih kuat” daripada Apple GPT-4. Insinyur dari Amazon, DeepMind, Google, Meta, dan Microsoft juga memperlambat dukungan mereka.
Dikembangkan oleh Buka AI, sebuah perusahaan yang didirikan bersama oleh Musk dan sekarang didukung oleh Microsoft, GPT-4 mengembangkan kemampuan untuk melakukan percakapan seperti manusia, membuat lagu, dan meringkas dokumen panjang. Sistem AI seperti itu dengan “kecerdasan kompetitif manusia” menimbulkan risiko besar bagi umat manusia, kata surat itu.
“Laboratorium AI dan pakar independen harus menggunakan jeda ini untuk secara kolaboratif mengembangkan dan mengimplementasikan seperangkat protokol keamanan umum untuk desain dan pengembangan AI tingkat lanjut, yang akan ditinjau dan dipantau secara ketat oleh pakar eksternal independen,” bunyi surat itu.
The Future of Life Institute, wadah pemikir yang mengoordinasikan upaya tersebut mengutip 12 penelitian dari para ahli termasuk sarjana universitas dan kontributor saat ini dan sebelumnya di OpenAI, Google dan anak perusahaannya DeepMind. Tetapi empat ahli yang dikutip dalam surat tersebut menyatakan keprihatinan bahwa penelitian mereka telah digunakan untuk membuat klaim semacam itu.
Saat pertama kali memulai, surat itu hilang Log verifikasi tanda tangan dan mengumpulkan tanda tangan dari orang yang tidak benar-benar menandatanganinya, termasuk Xi Jinping dan ilmuwan AI utama Meta, Yann LeCun, the dibersihkan dia tidak mendukungnya di Twitter.
Yang terpenting, para kritikus menuduh Future of Life Institute (FLI). didanai dari Musk Foundation untuk memprioritaskan skenario apokaliptik yang dibayangkan daripada kekhawatiran yang lebih langsung tentang AI — seperti bias rasial atau seksis yang diprogram ke dalam mesin.
Di antara penelitian yang dikutip adalah “On the Dangers of Stochastic Parrots,” salah satu yang terkenal Kertas Ditulis bersama Margaret Mitchell, yang sebelumnya memimpin penelitian AI etis di Google. Mitchell, sekarang ilmuwan etika senior di perusahaan AI Hugging Face, mengkritik surat tersebut, mengatakan kepada Reuters bahwa tidak jelas apa yang dianggap “lebih kuat dari GPT4”.
“Dengan menerima begitu saja banyak ide yang dipertanyakan, surat itu menegaskan serangkaian prioritas dan narasi tentang AI yang menguntungkan pendukung FLI,” katanya. “Mengabaikan bahaya aktif saat ini adalah hak istimewa yang tidak dimiliki sebagian dari kita.”
Rekan penulisnya, Timnit Gebru dan Emily M. Bender, turun ke Twitter untuk mengkritik surat tersebut, dengan yang terakhir mencap beberapa klaimnya sebagai “di luar kendali”. Shiri Dori-Hacohen, asisten profesor di University of Connecticut, juga mengkritik penyebutan karyanya dalam surat tersebut. Dia adalah rekan penulis tahun lalu sebuah makalah penelitian Argumen untuk meluasnya penggunaan AI sudah mengandung risiko serius.
Penelitiannya berpendapat bahwa penggunaan sistem AI saat ini dapat memengaruhi pengambilan keputusan terkait perubahan iklim, perang nuklir, dan ancaman eksistensial lainnya.
Dia mengatakan kepada Reuters, “AI tidak perlu mencapai kecerdasan tingkat manusia untuk memperburuk risiko ini.”
“Ada risiko non-eksistensial yang benar-benar penting yang tidak mendapat perhatian setingkat Hollywood.”
Saat dimintai komentar atas kritik tersebut, Presiden FLI Max Tegmark mengatakan risiko AI jangka pendek dan jangka panjang harus ditanggapi dengan serius. “Ketika kita menuntut seseorang, itu berarti kita mengklaim bahwa mereka mendukung putusan itu. Itu tidak berarti mereka mendukung surat itu atau kami mendukung apa pun yang mereka pikirkan,” katanya kepada Reuters.