TTelevisi paling menarik yang saya lihat akhir-akhir ini tidak berasal dari jaringan televisi tradisional, bahkan Netflix, tetapi dari liputan televisi Parlemen. Itu merupakan rekaman pertemuan dari Komite Seleksi untuk AI dalam Sistem Persenjataan House of Lords, yang dibentuk untuk memeriksa “bagaimana senjata otonom harus dikembangkan, dikerahkan, dan diatur”. Sesi khusus yang saya minati adalah yang berlangsung pada tanggal 20 April, di mana panitia mendengarkan empat ahli – Kenneth Payne, yang merupakan Profesor Strategi di King’s College London; Keith Dear, Direktur Inovasi Kecerdasan Buatan di perusahaan komputer Fujitsu; James Black dari Kelompok Riset Pertahanan dan Keamanan Rand Eropa; dan Courtney Bowman, Direktur Global Privasi dan Teknik Kebebasan Sipil di Palantir UK. Perpaduan yang menarik, pikir saya dalam hati – dan begitulah yang terjadi.
Sistem senjata otonom adalah mereka yang dapat memilih dan melibatkan target tanpa campur tangan manusia. Dipercaya (dan bukan hanya oleh penguatnya) bahwa sistem ini dapat merevolusi peperangan, berpotensi menjadi lebih cepat, lebih akurat, dan lebih tangguh daripada sistem senjata yang ada. Dan bahwa mereka bahkan mungkin membatasi korban perang (walaupun saya akan percaya itu ketika saya melihatnya).
Hal yang paling mencolok tentang sesi tersebut (setidaknya untuk kolumnis ini) adalah bahwa meskipun dikabarkan tentang penggunaan kecerdasan buatan oleh militer dalam peperangan, banyak tema dan pertanyaan yang muncul dalam dua jam diskusi tersebut juga dapat muncul. dalam sesi Diskusi tentang penggunaan sipil teknologi. Misalnya, pertanyaan tentang keamanan dan keandalan atau tata kelola dan kontrol. Dan tentu saja tentang regulasi.
Banyak percakapan yang paling menarik seputar topik terakhir ini. “Kami hanya harus menerima,” kata Lord Browne dari Ladyton dengan pasrah, “bahwa kami tidak akan pernah datang sebelum teknologi ini. Kami akan selalu berusaha untuk mengejar ketinggalan. Dan jika pengalaman konsisten kita dalam mengembangkan kebijakan publik berlanjut—dan itu akan terjadi—maka teknologi akan maju dengan kecepatan cahaya dan kita akan maju secepat kura-kura. Dan itulah dunia yang kita tinggali.”
Ini membuat marah profesor di panel. “Secara naluriah, saya ragu untuk mengatakan itu masalahnya,” katanya. “Saya tidak siap untuk setuju dengan argumen yang akan diringkas oleh seorang akademisi sebagai determinisme teknologi – mengabaikan segala macam faktor institusional dan budaya yang memengaruhi perkembangan AI dalam masyarakat individu, tetapi itu pasti akan menantang, dan saya melakukannya.” bukan. tidak percaya bahwa pengaturan kelembagaan yang ada cukup untuk jenis diskusi ini.”
Perhatikan kata “menantang”. Ini juga ada di mana-mana dalam diskusi sipil tentang tata kelola/regulasi AI, yang merupakan eufemisme untuk “tidak mungkin”.
Jadi, jawab Browne, haruskah kita membawa teknologi “in-house” (yaitu, di bawah kendali pemerintah)?
Pada titik ini, orang Fujitsu dengan singkat mengatakan bahwa “tidak ada yang akan memperlambat kemajuan AI lebih cepat daripada membawanya ke pemerintahan.” Kata kunci tawa.
Lalu ada masalah proliferasi, masalah abadi dalam pengendalian senjata. Bagaimana keberadaan AI di mana-mana mengubahnya? Hebat, kata pria dari Rand. “Banyak yang akan sangat sulit dikendalikan dari perspektif non-proliferasi karena sifatnya yang berbasis perangkat lunak. Banyak kontrol ekspor dan rezim non-proliferasi kami yang ada sangat berfokus pada perangkat keras kuno tradisional: misil, mesin, bahan nuklir.”
Ya. Dan itu juga drone konsumen yang Anda beli dari Amazon dan diubah untuk keperluan militer, seperti menjatuhkan granat ke tentara Rusia di parit Ukraina.
Secara keseluruhan, itu adalah sesi yang mendalam, contoh paradigmatik tentang apa yang seharusnya menjadi demokrasi deliberatif: sopan, terukur, terinformasi, hormat. Dan itu membuat Anda berpikir tentang fakta bahwa diskusi terbaik dan paling bijaksana tentang masalah-masalah sulit yang terjadi di kerajaan yang membingungkan ini tidak terjadi di kamar terpilihnya, tetapi di anomali konstitusional itu, House of Lords.
Saya pertama kali menyadari bahwa selama masa jabatan pertama Tony Blair, ketika beberapa dari kami mencoba menarik perhatian anggota parlemen. UU Kekuasaan Investigasi, lalu dia dipimpin melalui Parlemen oleh Menteri Dalam Negeri Jack Straw dan bawahannya Charles Clarke. Kami kemudian menemukan bahwa dari 650 anggota House of Commons hanya segelintir yang menunjukkan minat pada undang-undang yang cacat ini. (Kebanyakan dari mereka setuju dengan Home Office bahwa itu hanya membawa penyadapan telepon ke era digital.) Saya kagum bahwa satu-satunya anggota parlemen yang berhasil memperbaiki RUU dalam perjalanannya ke buku undang-undang adalah sekelompok kecil dari mereka. melakukan anomali konstitusional dengan para Penguasa, yang mencurahkan banyak waktu dan upaya untuk membuatnya kurang cacat daripada yang seharusnya. Itu adalah tugas tanpa pamrih dan menginspirasi melihat mereka melakukannya. Dan itulah mengapa saya senang melihat mereka melakukannya lagi 10 hari yang lalu.
apa yang saya baca
defisit demokrasi
Posting cemerlang oleh Scott Galloway di blognya, No Mercy/No Malice, hambatan tabrakanmenguraikan bencana kegagalan negara-negara demokratis untuk mengatur perusahaan teknologi.
Tekan tombol ini
Barry Sanders menghasilkan satu esai yang indah Di dalam lemari Majalah di mesin, tulisan mekanis.
Semua orang berbicara
Saya ChatGPT, dan demi Tuhan tolong berhenti membuat saya menulis salinan promosi parodi yang bagus oleh Joe Wellman di McSweeney’s Internet Tendency.