Bagaimana membuat kesalahan oleh Pembuat LLM kepada anak-anak bermasalah

AI chatbot semakin aneh, dan beberapa pengamat mengatakan masalahnya bisa jadi model bahasa besar (LLM) yang membuatnya.

AI Microsoft menghasilkan chatbot Bing aneh atau agresif Saya menjawab pertanyaan Anda. Perangkat lunak ini menghasilkan teks berdasarkan permintaan dan rumor telah dimulai bahwa chatbots bisa jadi mereka menjadi hidupBukan begitu, katanya Evan Coopersmithwakil presiden eksekutif ilmu data untuk sebuah perusahaan perangkat lunak Pembelajaran,

“Dengan model bahasa yang besar, proses pembelajaran benar-benar kaya akan pengetahuan untuk membantu belajar,” kata Coopersmith kepada Lifewire melalui email. “Lebih seperti mengasuh anak, kami memperkuat apa yang kami yakini sebagai perilaku yang pantas.”

Chatbot Buronan

Sejak Microsoft baru-baru ini merilis chatbot Bing-nya, kreasi perusahaan tampaknya menjadi cara biasa untuk menghasilkan kueri web umum. Hal-hal mulai keluar jalur ketika pengguna memulai percakapan panjang dengan chatbot, yang merupakan program komputer model bahasa besar (LLM) untuk pemrosesan bahasa alami.

Masalah sebenarnya adalah pengguna melibatkan chatbot dengan respons mereka. Coopersmith menyamakan obrolan dengan hubungan dengan orang tua.

“Dengan anak-anak kita memiliki milenium untuk memberikan setidaknya beberapa petunjuk tentang perilaku yang ingin kita perkuat atau hukum,” tambahnya. “Dengan LLM kami menginginkan yang terbaik tanpa jaringan, jika model tumbuh menjadi lebih besar, lebih kuat, lebih canggih, dan sama sekali tidak diatur.”

Dvir Ben-Aroyapengembangan CEO Paku, mengatakan bahwa percakapan tersebut melibatkan email antara dirinya dan orang tua dan berbicara dengan chatbot sebagai panduan dan mengarahkan entitas ke hasil atau tujuan tertentu. “Keduanya membutuhkan kesabaran, ketekunan, dan pengulangan untuk mencapai hasil yang diinginkan,” ujarnya. “Saat orang tua membangun penguatan dan kritik positif untuk membimbing anak-anak mereka, pengguna LLM dapat memberikan umpan balik sehingga chatbot dapat belajar dan meningkatkan kemampuan pengajaran bahasanya.”

Tetapi dengan LLM, pengguna juga harus belajar bagaimana berbicara dengan chatbot, sementara orang tua fokus pada anak untuk menjadi orang dewasa yang bertanggung jawab (dan seringkali juga merupakan proses pembelajaran). Apa yang tampak seperti obrolan bagi pengguna sebenarnya adalah latihan yang dipelajari bagi mereka, kata Ben-Aroya.

“Mereka tahu cara menggunakan algoritme mesin untuk memahami bahasa alami, mengenali pola, dan merespons persuasi dengan tepat,” katanya. “Dengan menggunakan LLM, pengguna dapat merasakan secara langsung bagaimana AI diintegrasikan ke dalam kehidupan sehari-hari dan bagaimana AI mengubah cara kita berinteraksi dengan teknologi.”

Apakah Anda sadar atau tidak?

Percakapan yang sangat realistis yang dapat dihasilkan oleh AI chatbots dapat membuat beberapa pengguna merasa sadar diri saat menonton perangkat lunak tersebut. Dari seorang karyawan Google blake lemon dipecat oleh raksasa teknologi tahun lalu untuk mengatakan AI-nya yang disebut LaMDA memiliki teman.

Gagasan AI yang sadar diri telah ditemukan oleh banyak ilmuwan komputer. Ben-Aroya setuju, mengatakan bahwa saat mereka berbicara dengan percakapan pura-pura, dia tidak memiliki kesadaran atau hati nurani.

“Orang terkadang percaya bahwa LLM sadar karena penggunaan pemrosesan bahasa alami mereka, yang membuatnya tampak seperti chatbot memahami dan menanggapi ucapan manusia dengan cara yang mirip dengan interaksi manusia,” kata Ben-Aroya. “Namun, LLM diprogram untuk merespons aturan dan algoritme yang ditetapkan dan tidak memiliki kapasitas untuk berpikir mandiri atau kesadaran diri.”

Michael Littmansalah satu profesor sains PC di Universitas Coklat yang mempelajari pembelajaran mesin dan aplikasi dan aplikasi untuk kecerdasan buatan, mengatakan dalam a rilis berita Sebuah mesin tidak dapat sadar diri sampai mulai mempertimbangkan dampak dari tindakannya dan apakah itu membantu mencapai tujuannya.

“Program saat ini memiliki paparan luas terhadap pengetahuan manusia tetapi tidak memiliki tujuan, seperti chatbot ini, atau tidak memiliki pengetahuan tetapi tujuan terbatas, seperti program yang dapat memainkan video game,” tambahnya.

Tapi Coopersmith menyisakan lebih banyak ruang untuk keraguan tentang kesadaran AI. “Pandangan saya, LLM belum sadar,” ujarnya. “Tapi hewan peliharaan saya yakin dia lebih cerdas daripada saya, jadi mengapa saya harus percaya bahwa kita lebih sadar daripada algoritme?”