LPada bulan November, seorang pemuda Afrika-Amerika, Randal Quran Reid, ditepi oleh Polisi Negara Bagian Georgia saat mengemudi ke Atlanta. Dia ditangkap atas perintah dari Departemen Kepolisian Louisiana untuk dua tuduhan pencurian di New Orleans. Reid belum pernah ke Louisiana, apalagi New Orleans. Protesnya gagal dan dia ada di sana enam hari di penjara karena keluarganya dengan putus asa menghabiskan ribuan dolar untuk menyewa pengacara di Georgia dan Louisiana untuk mencoba membebaskannya.
Ternyata surat perintah penangkapan hanya didasarkan pada pertandingan pengenalan wajah, meski tidak ada dokumen polisi yang menyebutkannya; Surat perintah itu mengatakan “sumber yang kredibel” mengidentifikasi Reid sebagai pelakunya. Pertandingan pengenalan wajah salah, kasusnya akhirnya gagal dan Reid dibebaskan.
Dia bahagia. Dia memiliki keluarga dan sarana untuk menemukan kebenaran. Jutaan orang Amerika tidak akan memiliki aset sosial dan keuangan seperti itu. Namun, Reid adalah bukan satu-satunya korban dari a pengenalan wajah yang salah bugar. Jumlahnya kecil, tetapi sejauh ini semua orang yang ditangkap di AS setelah pertandingan palsu adalah orang kulit hitam. Hal ini tidak mengherankan mengingat bahwa desain perangkat lunak pengenalan wajah tidak hanya menyulitkan untuk mengidentifikasi orang kulit berwarna dengan benar, tetapi juga algoritme. Meniru prasangka dunia manusia.
Kasus Reid, dan kasus lainnya, harus menjadi pusat dari salah satu debat paling mendesak saat ini: debat tentang kecerdasan buatan dan bahaya yang ditimbulkannya. Bahwa ini bukan masalahnya, dan begitu sedikit yang menyadarinya sebagai bermakna, menunjukkan betapa miringnya diskusi tentang AI dan bahwa AI perlu difokuskan kembali. Sudah lama ada ketakutan mendasar tentang jenis dunia yang bisa diciptakan oleh AI. Perkembangan terkini telah meningkatkan ketakutan ini dan membawanya ke dalam diskusi publik. Rilis tahun lalu versi 3.5 dari Obrolan GPTdan dari rilis 4 Maret ini memicu kekaguman dan kepanikan: kekaguman pada kemampuan chatbot untuk meniru ucapan manusia dan kepanikan pada kemungkinan pemalsuan, dari esai siswa hingga laporan berita.
Kemudian, dua minggu lalu, anggota terkemuka komunitas teknologi, termasuk Sam Altman, CEO OpenAI, yang membuat ChatGPT, Demis Hassabis, CEO Google DeepMind, dan Geoffrey Hinton dan Yoshua Bengio, sering dianggap sebagai bapak baptis AI modern. dilihat terus. Mereka merilis pernyataan yang mengklaim bahwa AI dapat menandai akhir dari umat manusia. “Mengurangi risiko kepunahan melalui AI” mereka memperingatkan“harus menjadi prioritas global di samping risiko sosial lainnya seperti pandemi dan perang nuklir.”
Jika begitu banyak honcho Silicon Valley benar-benar percaya bahwa mereka membuat produk berbahaya seperti yang mereka klaim, mengapa, orang mungkin bertanya, apakah mereka terus menghabiskan miliaran dolar untuk membangun, mengembangkan, dan menyempurnakan produk ini? Ini seperti seorang pecandu narkoba yang sangat bergantung pada penggunaan narkoba sehingga dia meminta rehabilitasi paksa untuk menghentikannya dari hal-hal yang sulit. Menampilkan produk Anda sebagai super pintar dan super kuat tentu membantu meningkatkan ego pengusaha teknologi dan meningkatkan keuntungan mereka. Namun AI tidak sepintar atau sekuat yang mereka ingin kita percayai. ChatGPT sangat bagus dalam memotong dan menempelkan teks dengan cara yang membuatnya terlihat seperti manusia, tetapi memang demikian pemahaman yang diabaikan dunia nyata. Ini, seperti yang dikatakan oleh sebuah penelitian, tidak lebih dari sebuah “burung beo stokastik“.
Kita masih jauh dari cawan suci “kecerdasan umum buatan”, mesin yang memiliki kemampuan untuk memahami atau mempelajari setiap tugas intelektual yang dapat dilakukan manusia, dan karena itu dapat menunjukkan jenis kecerdasan kasar yang sama seperti manusia, apalagi bentuk kecerdasan yang superior.
Obsesi terhadap ketakutan fantasi membantu menyembunyikan masalah AI yang lebih biasa tetapi juga lebih signifikan yang seharusnya membuat kita khawatir; jenis masalah yang membuat Reid terpikat dan bisa memikat kita semua. Dari pengawasan hingga disinformasi, kita hidup di dunia yang digerakkan oleh AI. Fitur yang menentukan dari “dunia baru pengawasan lingkungan,” catat pengusaha teknologi Maciej Ceglowski pada sidang komite Senat AS, adalah bahwa “Kami tidak dapat berhenti berlangganan sesedikit mungkin kami mengucapkan selamat tinggal pada budaya otomotif dengan menolak mengemudi.” Hampir tanpa disadari, kami telah memasuki panoptikon digital. Tetapi untuk mengatakan bahwa kita hidup di dunia yang digerakkan oleh AI adalah kehilangan intinya. Tidak ada mesin tanpa manusia dan mungkin tidak akan pernah ada.
Alasan mengapa Reid dipenjara secara salah tidak ada hubungannya dengan kecerdasan buatan dan lebih karena pilihan manusia. Orang yang membuat dan melatih perangkat lunak. Orang-orang yang menggunakannya. Orang-orang yang tanpa syarat menerima pengenalan wajah setuju. Orang-orang yang memperoleh surat perintah penangkapan mengklaim Reid diidentifikasi oleh “sumber yang kredibel”. Orang-orang yang menolak mempertanyakan identitas, bahkan setelah protes Reid. Dll.
Terlalu sering, ketika kita berbicara tentang “masalah” AI, kita melupakan manusianya. Kami mempraktikkan bentuk dari apa yang ilmuwan sosial dan pengembang teknologi Rumman Chowdhury “outsourcing moral“: Membuat mesin bertanggung jawab atas keputusan manusia. Kami khawatir AI akan “menghilangkan pekerjaan” dan memberhentikan jutaan orang alih-alih mengakui bahwa keputusan sebenarnya dibuat oleh pemerintah dan perusahaan serta orang-orang yang menjalankannya. Berita utama memperingatkan tentang “algoritma rasis dan seksis‘ tetapi orang-orang yang membuat algoritme dan mereka yang menggunakannya sebagian besar tetap tersembunyi.
Dengan kata lain, kita melihat mesin sebagai aktor dan manusia sebagai korban agen mesin. Ironisnya, justru ketakutan kita akan distopia, dan bukan AI itu sendiri, yang membantu menciptakan dunia di mana manusia menjadi lebih terpinggirkan dan mesin menjadi lebih sentral. Ketakutan semacam itu juga mendistorsi kemungkinan regulasi. Alih-alih melihat regulasi sebagai sarana yang dengannya kita dapat secara kolektif membentuk hubungan kita dengan AI dan teknologi baru, regulasi menjadi sesuatu yang dipaksakan dari atas untuk melindungi orang dari mesin. Bukan AI, tapi rasa fatalisme kita dan kebutaan kita terhadap cara masyarakat manusia sudah menggunakan kecerdasan mesin untuk tujuan politik yang seharusnya menjadi perhatian kita.
Kenan Malik adalah kolumnis The Observer
Apakah Anda memiliki pendapat tentang masalah yang diangkat dalam artikel ini? Jika Anda ingin mengirimkan surat hingga 250 kata untuk publikasi, kirim email ke [email protected]