Bahkan pembuat ChatGPT menganggap AI menakutkan, tetapi tidak semua orang setuju

Chatbot baru yang digerakkan oleh kecerdasan buatan (AI) membuat pengguna tercengang; ternyata, perintis teknologi pun merasakan hal yang sama.

Sam AltmanCEO ChatGPT, pencipta OpenAI; diminta baru-baru ini sehingga dunia bukanlah kecerdasan buatan yang jauh dari kekuatan menakutkan. Banyak pengamat setuju dengan penilaian tersebut dan mengatakan bahwa peraturan teknis akan menjadi penting.

“Chatbot berbasis AI berpotensi menjadi alat yang sangat ampuh untuk bisnis, organisasi, dan individu jika digunakan secara bertanggung jawab dan etis.” Matan Coheneditor produk di Rakuten Viber, aplikasi perpesanan yang aman, kata Lifewire dalam email. “Aplikasi diterapkan untuk meningkatkan layanan pelanggan, untuk mengotomatiskan tugas-tugas yang membosankan, bahkan untuk membantu kesehatan mental. Namun, kita harus ingat bahaya AI, mulai dari menyebarkan kesalahan dan kurangnya informasi, hingga mengeksploitasi pengguna dengan mengekstraksi informasi pribadi atau mempromosikan berita palsu dan dakwah.”

Monster menakutkan?

Altman menge-Tweet baru-baru ini bahwa perpindahan ke AI-enabled akan “sangat bagus” dan dapat terjadi dengan cepat – seperti transisi dari “dunia pra-smartphone ke dunia pasca-sfeltphone”. Ini menunjuk ke tantangan yang melibatkan AI chatbots yang digunakan oleh beberapa pengguna dengan respon orang suka dan kadang seram.

Bahaya AI semakin meningkat. Cohen memperkirakan bahwa di tahun depan, kita akan melihat lebih banyak aplikasi berbasis AI muncul dalam kehidupan kita sehari-hari dan menawarkan nilai dan risiko yang besar.

“Karena rata-rata pengguna belum sepenuhnya terpapar risiko ini, semakin banyak layanan berbasis AI menjadi bagian dari hidup kita, semakin besar risikonya,” katanya. “Para ahli memperingatkan kita sekarang sebelum terlambat, dan mengingat kecepatan peningkatan AI, hari itu tidak lama lagi.”

Argumen untuk mengatur AI

Regulasi mungkin menjadi kunci untuk mengendalikan AI yang berbahaya. Cohen mengatakan kemampuan AI, terutama chatbot AI, harus diatur dan dipantau dengan cara yang sama di bawah GDPR (Peraturan Perlindungan Data Umum) Eropa, untuk melindungi privasi pengguna. Dia mengatakan perusahaan pengembangan AI harus diminta untuk membangun batas tambahan untuk melindungi hak dan nilai dasar manusia.

“Tampaknya, dalam kasus ini, perusahaan teknis besar yang mendorong pengembangan AI menyadari risikonya dan telah menambahkan tanggung jawab mereka pada privasi dan keamanan pengguna (walaupun tidak selalu demikian). “Namun, seiring AI menjadi lebih komersial, umat manusia tidak dapat hanya mengandalkan kepercayaan masyarakat manusia dan manusia. Arena ini akan sangat diatur sehingga AI dapat tumbuh dan digunakan secara etis dan bertanggung jawab.”

Lindsey Zuloagakepala ilmuwan data HireVueyang membangun dan memperkuat algoritme pembelajaran mesin, mengatakan dalam email ke Lifewire bahwa perhatian utamanya terhadap AI adalah penyebaran disinformasi.

“Inovasi telah meninggalkan pertahanan, dan penting bagi peneliti dan teknolog untuk mengajukan pertanyaan kritis dan mencoba membangun pertahanan dengan cepat,” tambah Zuloaga.

Zuloaga mengatakan semua alat AI generatif menjalani audit algoritme pihak ketiga yang ketat dan hasilnya dipublikasikan. Selain itu, pembuat alat AI baru harus memprioritaskan pembuatan AI Explainability Statements, sebuah proses yang mendokumentasikan publik, pelanggan, dan pengguna bagaimana teknologi tertentu dikembangkan dan diuji.

Beberapa ahli mengatakan ketakutan akan AI terlalu berlebihan. Matius Kershawpresiden militer TELAH MELAKUKANyang membuat AI generatif, katanya dalam alamat email bahwa beberapa pengguna takut pada AI dan menenangkannya.

“Tidak ada satu teknik pun yang baik atau buruk saat digunakan,” katanya. “Kami mendorong mereka yang khawatir untuk mengadvokasi peraturan yang lebih jelas dan praktik bisnis yang bertanggung jawab daripada takut pada teknologi itu sendiri, yang memiliki potensi besar untuk kebaikan.”

Dan Whiteleykepala petugas teknologi di KukDia mengatakan dalam email ke Lifewire bahwa bahaya AI menjadi berita utama. “Akan ada pengecualian, menurut pendapat saya, di mana insinyur dilatih untuk melakukan aktivitas penipuan atau mengirimkan malware, dll., tetapi kami perlu memiliki alat yang tepat untuk perlindungan,” tambahnya.