CEO OpenAI menyerukan undang-undang untuk memitigasi “risiko AI yang semakin kuat” | Obrolan GPT

CEO OpenAI, perusahaan yang bertanggung jawab untuk mengembangkan chatbot kecerdasan buatan Obrolan GPT dan pembuat gambar Dall-E 2 mengatakan dalam penampilan pertamanya di depan Kongres AS bahwa “peraturan AI sangat penting”.

Berbicara di hadapan Komite Kehakiman Senat pada hari Selasa, Sam Altman mengatakan dia mendukung pedoman peraturan untuk teknologi yang akan memanfaatkan manfaat kecerdasan buatan sambil meminimalkan bahaya.

“Kami percaya intervensi pemerintah akan sangat penting untuk mengurangi risiko model yang semakin kuat,” kata Altman dalam sambutannya.

Altman menyarankan agar pemerintah AS dapat mempertimbangkan persyaratan lisensi dan pengujian untuk pengembangan dan peluncuran model AI. Dia menyarankan untuk menetapkan seperangkat standar keselamatan dan melewati model uji tertentu sebelum dapat digunakan, dan mengizinkan auditor independen untuk menguji model tersebut sebelum dirilis ke pasar. Dia juga berpendapat bahwa kerangka kerja yang ada seperti Bagian 230, yang membebaskan platform dari tanggung jawab atas konten yang diposting oleh penggunanya, bukanlah cara yang tepat untuk mengatur sistem.

“Untuk teknologi yang sangat baru, kami membutuhkan kerangka kerja baru,” kata Altman.

Altman dan Gary Marcus, seorang profesor emeritus psikologi dan ilmu saraf di Universitas New York yang juga bersaksi di persidangan, menyerukan pengatur baru teknologi tersebut. AI itu rumit dan berkembang pesat, kata Marcus, itulah sebabnya “sebuah agensi yang pekerjaan penuh waktunya” mengaturnya sangat penting.

Selama persidangan, para senator menarik kesejajaran antara media sosial dan AI generatif, serta pelajaran yang didapat anggota parlemen dari kegagalan pemerintah untuk mengatur platform sosial.

Meski begitu, sidang itu jauh lebih kontroversial daripada pernyataan CEO Meta Mark Zuckerberg. Banyak anggota parlemen mengakui seruan Altman untuk regulasi dan pengakuan jebakan AI generatif. Bahkan Marcus yang dituntun untuk menyatakan skeptis terhadap teknologi tersebut menyebut pernyataan tulus Altman.

Sidang tersebut dihadiri oleh pakar dan ahli etika AI yang terkenal dan dihormati, termasuk mantan peneliti Google dr Timnit Gebru, yang memimpin tim etika AI perusahaan, dan Meredith Whitaker telah membunyikan alarm tentang adopsi cepat AI generatif, dengan alasan teknologinya terlalu dibesar-besarkan. “Gagasan bahwa secara ajaib ini akan menjadi sumber manfaat sosial … adalah fantasi yang digunakan untuk memasarkan program-program ini,” kata Whitaker, sekarang presiden aplikasi perpesanan aman Signal, baru-baru ini. wawancara di Temui Pers.

AI generatif adalah mesin probabilitas “yang dirancang untuk memuntahkan hal-hal yang tampaknya masuk akal” berdasarkan “sejumlah besar data pengawasan efektif yang diambil dari internet,” bantahnya.

Senator Josh Hawley dan Richard Blumenthal mengatakan audiensi ini hanyalah langkah pertama dalam memahami teknologi.

Blumenthal mengatakan dia melihat “janji” teknologi, termasuk “menyembuhkan kanker, mengembangkan wawasan baru dalam fisika dan biologi, atau memodelkan iklim dan cuaca.”

Sam Altman, CEO OpenAI, menunggu untuk berbicara di hadapan Komite Kehakiman Senat.
CEO OpenAI Sam Altman sedang menunggu untuk berbicara di depan Komite Kehakiman Senat. Foto: Patrick Semansky/AP

Risiko potensial yang dikhawatirkan Blumenthal termasuk deepfake, disinformasi bersenjata, diskriminasi perumahan, pelecehan wanita, dan penipuan identitas. “Mungkin mimpi buruk terbesar bagi saya adalah revolusi industri baru yang akan datang, pemindahan jutaan pekerja,” katanya.

Altman mengatakan sementara OpenAI sedang mengembangkan alat yang suatu hari akan melakukannya “Kita dapat mengatasi beberapa tantangan terbesar umat manusia, seperti perubahan iklim dan obat kanker,” tetapi sistem saat ini belum mampu melakukannya.

Namun, dia yakin manfaat alat yang digunakan hingga saat ini “jauh lebih besar daripada risikonya”, dan mengatakan perusahaan melakukan pengujian ekstensif dan menerapkan sistem keamanan dan pemantauan sebelum merilis sistem baru apa pun.

“OpenAI didirikan dengan keyakinan bahwa kecerdasan buatan dapat meningkatkan hampir setiap aspek kehidupan kita, tetapi juga memiliki risiko serius yang harus kita tangani secara kolektif,” kata Altman.

Altman mengatakan teknologi tersebut akan berdampak signifikan pada pasar kerja, tetapi percaya “akan ada lebih banyak pekerjaan di sisi lain.”

“Pekerjaan menjadi lebih baik,” katanya. “Menurut saya penting untuk menganggap GPT sebagai alat dan bukan makhluk… GPT 4 dan alat serupa bagus untuk menyelesaikan tugas, bukan pekerjaan. GPT 4, menurut saya, akan mengotomatiskan sepenuhnya beberapa pekerjaan dan membuat pekerjaan baru yang menurut kami akan jauh lebih baik.”

Altman juga mengatakan dia sangat prihatin tentang dampak besar layanan pemodelan bahasa terhadap pemilu dan informasi yang salah, terutama menjelang pemilihan pendahuluan.

“Ada banyak hal yang dapat dan sedang kami lakukan,” Altman menanggapi pertanyaan dari Senator Amy Klobuchar melalui tweet yang dibuat oleh ChatGPT yang mencantumkan lokasi pemungutan suara palsu. “Ada hal-hal yang tidak bisa dilakukan model dan ada pemantauan. Dalam skala besar… kami dapat melihat seseorang menghasilkan banyak tweet (misinformasi) ini.”

Altman belum menjawab bagaimana pembuat konten yang karyanya digunakan dalam lagu, artikel, atau karya lain yang dibuat oleh AI dapat diberi kompensasi, dan mengatakan perusahaan tersebut bekerja dengan artis dan perusahaan lain untuk mengeksplorasi seperti apa model ekonomi itu. Ketika ditanya oleh Klobuchar bagaimana dia berencana untuk menghilangkan ancaman terhadap publikasi berita lokal yang kontennya dievaluasi dan digunakan untuk melatih model ini, Altman mengatakan dia berharap alat tersebut akan membantu jurnalis, tetapi “jika ada hal yang dapat kami lakukan untuk membantu di tempat. Berita, kami pasti ingin melakukan itu.

Potensi bahaya dari sekelompok kecil pemegang kekuasaan yang mendominasi industri telah diangkat, tetapi risikonya sebagian besar telah diabaikan dalam percakapan, kata seorang Whitaker yang dinamis, memperkuat dinamika kekuatan yang ada.

“Hanya ada segelintir perusahaan di dunia yang memiliki kombinasi data dan infrastruktur untuk menciptakan apa yang kami sebut AI, dari ujung ke ujung,” katanya dalam wawancara Meet the Press. “Kami sekarang berada dalam posisi untuk mengembangkan, menyebarkan, dan pada akhirnya mengembangkan teknologi yang berlebihan ini untuk melayani kepentingan ekonomi dari segelintir pemain yang sama.”



Sumber