Decoder pintar AI baru ini bisa menjadi mimpi buruk privasi, kata para ahli

Kecerdasan buatan (AI) memungkinkan peneliti untuk menafsirkan pikiran manusia dan membuka rahasia teknologi. Itu sistem baru aktivitas otak seseorang saat mendengarkan cerita dapat diterjemahkan menjadi teks yang berkesinambungan. Tujuannya adalah untuk membantu orang yang tidak dapat berbicara, seperti penderita stroke, untuk berkomunikasi. Namun, ada kekhawatiran bahwa teknik yang sama kadang-kadang menyerang pikiran.

“Sudah waktunya untuk memikirkan bagaimana melindungi privasi pikiran dengan benar sekarang.” Jennifer Millerseorang profesor yang mempelajari etika dan kedokteran Kedokteran YaleDia menyuruh Lifewire untuk memberikan alamat email. “Yang terbaik adalah membangun perlindungan privasi ke dalam teknologi sejak awal daripada meninjau kembali.”

Pandangan AI tentang aktivitas otak

Sebuah studi terbaru yang diterbitkan dalam jurnal Ilmu Saraf Alam Dia menggambarkan sistem AI baru yang disebut dekoder semantik. Pekerjaan ini didukung oleh transformer yang serupa dengan yang menggerakkan ChatGPT AI Open dan Google Bards.

Tidak seperti sistem sejenis lainnya, teknik baru ini tidak mengharuskan subjek memiliki implan bedah. Aktivitas otak diukur menggunakan pemindai fMRI setelah instalasi dekoder yang lama, di mana mereka mendengarkan podcast selama satu jam selama pemindaian. Peserta kemudian mendengarkan cerita baru atau membayangkan menceritakan sebuah cerita yang memungkinkan mesin menghasilkan teks yang sesuai dari aktivitas otak saja.

“Untuk metode non-invasif, ini merupakan lompatan maju yang nyata dibandingkan dengan apa yang dilakukan sebelumnya, yang pada dasarnya terdiri dari satu kata atau kalimat pendek,” kata Alex Huth, profesor ilmu saraf dan asisten profesor ilmu komputer di UT Austin, dalam no. rilis berita“Kami mendapatkan model bahasa berkelanjutan untuk memecahkan kode konsep ruang-waktu yang kompleks.”

Terlepas dari penelitian yang menjanjikan, tidak ada yang akan membaca pemikiran Anda dalam waktu dekat. David Baderdari sutradara Institut Ilmu Data di New Jersey Institute of Technologykatanya dalam sebuah wawancara. Dia mengatakan bahwa dalam kasus terbaik, decoder semantik dengan benar menampilkan jumlah dari apa yang Anda pikirkan di separuh waktu. Dan Anda dapat dengan mudah mengalahkan decoder semantik hanya dengan berpikir secara berbeda.

“Proses non-invasif ini akan mengharuskan Anda untuk berpartisipasi penuh, dan hasilnya – decoder semantik Anda – tidak akan berfungsi untuk orang lain, jadi ada risiko pemikiran Anda akan dibaca tanpa izin Anda,” tambahnya. “Mesin fMRI ini berharga lebih dari $3 juta dan beratnya 20 ton serta dapat mengukur aliran darah mikroskopis ke otak, jadi kami tidak berharap pikiran kami dibaca oleh orang yang lewat, kantor kami, atau menguping. kontrol telinga.

Etika Membaca Otak

Beberapa pengamat mengatakan bahwa tidak terlalu dini untuk memikirkan bagaimana teknologi dapat memecahkan kode otak dan mengembangkan cara untuk melestarikan pikiran manusia.

“Teknik-teknik ini menimbulkan ancaman eksistensial terhadap sesuatu yang seharusnya tidak pernah kita pedulikan – privasi otak kita.” Thomas P. Keenanprofesor di Universitas Calgary yang mempelajari efek adopsi teknologi, katanya melalui email. “Selain senjata, pikiran kita selalu menjadi milik kita sendiri.”

Keenan menunjukkan bahwa penelitian baru menunjukkan bahwa, dilengkapi dengan pencitraan fMRI dan kecerdasan buatan, sebagian besar pemikiran kita dapat direkam dan diverbalkan.

“Konsep persetujuan yang diinformasikan itu sulit” dalam hal teknologi ini, karena saat ini tidak diketahui dan spekulatif, tambahnya. “Tentu saja, penggunaan paksa apa pun akan menjadi ‘pencarian dan penyitaan yang tidak masuk akal’ dan dilarang oleh hukum di sebagian besar negara beradab.”

Mungkin profesi baru akan muncul dari pelatih yang mengajar orang, seperti tersangka kriminal, bagaimana menolak aroma teknologi ini sebagai pemikiran mereka yang sebenarnya, saran Keenan.

“Dalam banyak hal kita sekarang dapat mengetahui atau memprediksi apa yang dipikirkan seseorang berdasarkan data yang ada,” kata Miller. “Rahasianya, jika dia tidak mati, dia ada di ICU. Oleh karena itu, penting untuk tidak hanya berfokus pada hak privasi, tetapi juga pada perlindungan khusus terhadap penyalahgunaan data dan informasi pribadi: kita ingin pikiran kita sulit digunakan untuk melawan kita dengan cara yang tidak adil, predator, atau berbahaya.