Perangkat Lunak Baru Nvidia Berharap untuk Menghentikan AI Chatbots dari Hallucinating

Nvidia telah mengembangkan perangkat lunak sumber terbuka untuk membantu pengembang membuat aplikasi AI yang memecahkan masalah halusinasi (saat AI hanya melakukan hal-hal).

Dengan nama Tidak ada perangkat lunak Pagar Pembatas Ini adalah fitur untuk berinteraksi dengan model bahasa besar (LLM) seperti ChatGPT dan chatbot AI populer lainnya. Ini berfungsi untuk membuat respons dari chatbot “akurat, tepat waktu, sesuai topik, dan aman”. Paket perangkat lunak mencakup semua kode yang dibutuhkan perusahaan untuk mengintegrasikan air terjun ke dalam platform dengan aman dan terjamin.

Apa ini untukmu? Banyak chatbot AI akan segera hadir di berbagai platform di ponsel, tablet, dan seterusnya. Platform raksasa seperti Snap dan Bing telah mengimplementasikan chatbots, tetapi perangkat lunak Nvidia akan memungkinkan bisnis kecil untuk mengimplementasikan AI.

Ini bisa melampaui aplikasi dan masuk ke, misalnya, sistem perbankan telepon. Nvidia juga mengatakan bahwa perangkat lunak ini berguna di berbagai industri, mulai dari merancang obat baru untuk merek farmasi hingga menulis perangkat lunak baru tentang luka.

Perangkat lunak NeMo Guardrails adalah open source, sehingga pengguna yang berkeinginan dapat dengan mudah melakukan perubahan untuk memenuhi kebutuhan khusus mereka. Ini bekerja dengan menjaga AI chatbot agar tidak menyalakan area yang tidak perlu dan memastikannya memberikan informasi yang akurat dan tepat waktu. Pada tingkat makro, topik yang tidak diinginkan bisa menjadi sesuatu yang kontroversial atau menjijikkan, namun pada tingkat mikro, topik tersebut dapat merujuk pada subjek yang tidak sesuai dengan visi khusus perusahaan. Dengan kata lain, chatbot AI yang terkait dengan bank dapat berbicara dengan Anda tentang keuangan Anda, tetapi bukan tentang peristiwa terakhir itu. kesuksesan

Perlindungan lain juga tersedia untuk mencegah AI menautkan ke situs web berbahaya, mendukung sumber yang kredibel. Nvidia tidak memiliki software Guardrails sekarang tersediaNamun perlu beberapa saat sebelum kita mulai melihat hasil antara aplikasi dan layanan.