Ekonom membahas masalah penyelarasan AI dalam kebijakan moneter
- Sebuah laporan baru-baru ini menyoroti “masalah penyelarasan” yang terkait dengan AI.
- Ekonom James Broughel mempresentasikan masalah ini dalam konteks ekonomi moneter.
- Broughel telah menyarankan sebuah komite untuk mengawasi pengoperasian sistem kecerdasan buatan.
Peneliti dan ekonom Kecerdasan Buatan (AI) telah menyoroti risiko yang ditimbulkan oleh penggunaan AI dalam kehidupan kita sehari-hari. Menurut para ahli, pembuat kebijakan menghadapi “masalah penyelarasan”, yang muncul saat kita bergantung pada AI tanpa menyelaraskannya dengan nilai dan tujuan kita.
Menurut laporan Forbes, masalah penyelarasan mungkin merupakan tantangan terbesar di ruang AI. Algoritme AI beroperasi pada seperangkat aturan yang mengarahkan mereka ke tujuan mereka. Ini terkadang dapat menyebabkan hasil yang awalnya tidak diinginkan, tetapi input algoritme AI membuatnya terlihat seperti ini.
Ekonom James Broughel mempresentasikan masalah AI dalam konteks kebijakan moneter. Dia mengutip contoh rezim berbasis aturan di mana bank sentral mengikuti seperangkat aturan yang ditentukan. Rezim seperti itu membantu dengan konsistensi dan prediktabilitas di pasar, tetapi tidak terlalu bisa beradaptasi dengan keadaan yang berubah.
Di sisi lain, rezim diskresioner memiliki komite pusat yang menjalankan tingkat fleksibilitas yang signifikan untuk menyesuaikan kebijakan moneternya sesuai dengan lanskap ekonomi dan keadaan yang berubah. Dalam hal ini, bank sentral biasanya mampu menghadapi aktivitas yang tidak terduga dan menerapkan kebijakan yang tepat sesuai dengan situasi.
Broughel percaya bahwa algoritme AI yang berorientasi pada tujuan dapat menyebabkan konsekuensi yang tidak diinginkan dalam proses pencapaian tujuannya. Dia berargumen bahwa struktur AI seperti itu harus memiliki mekanisme seperti tombol pemutus untuk mematikannya dalam keadaan darurat. CEO Twitter Elon Musk sebelumnya berbagi keprihatinan dan kecemasannya tentang “bahaya besar” AI, mencatat bahwa “AI membuat saya stres.”
Solusi lain adalah menunjuk manajer atau komite untuk mengawasi pengoperasian sistem AI. Grup ini akan bertanggung jawab untuk menangguhkan sistem AI jika menyimpang dari targetnya. Ekonom menambahkan bahwa sakelar darurat harus diprogram ke dalam algoritma AI untuk memastikannya mematuhi komite tersebut.
Pos Ekonom Membahas Masalah Penyelarasan AI dalam Kebijakan Moneter pertama kali muncul di Edisi Koin.