Efek negatif dari kecerdasan buatan (AI) teknologi di tangan penjahat, memungkinkan terciptanya pemalsuan dan malware yang dalam, telah meningkatkan urgensi untuk bertindak.
OpenAI, pencipta ChatGPT dan Dall-e, memilikinya diumumkan program hibah keamanan siber senilai $1 juta untuk meningkatkan dan mengukur dampak teknologi keamanan siber yang didukung AI.
Perusahaan AI secara konsisten menekankan pentingnya regulasi AI untuk menggagalkan aplikasi yang berpotensi berbahaya. Dalam perlombaan senjata digital yang sedang berlangsung, OpenAI tampaknya mengambil langkah proaktif untuk memastikan kekuatan positif tidak tertinggal.
OpenAI memamerkan berbagai konsep proyek, termasuk membuat honeypot untuk menjebak penyerang, membantu pengembang merancang perangkat lunak yang aman, dan meningkatkan praktik manajemen tambalan untuk efektivitas yang optimal.
Tujuan dari program ini terbukti dengan sendirinya, seperti yang dinyatakan oleh OpenAI dalam postingan blog resminya: “Tujuan kami adalah mendorong kemajuan kemampuan keamanan siber yang didukung AI untuk para pembela HAM melalui hibah dan bantuan tambahan.” Tujuannya adalah untuk mengevaluasi keefektifan model kecerdasan buatan dan menentukan metode untuk meningkatkan kemampuan keamanan siber mereka.
Inisiatif inovatif ini bertujuan untuk mencapai tiga tujuan utama. Pertama, ia berusaha untuk “memberdayakan para pembela” dengan memanfaatkan kemampuan AI dan upaya kolaboratif untuk mengubah keseimbangan demi mereka yang berdedikasi untuk meningkatkan keselamatan dan keamanan secara keseluruhan.
Fokus inisiatif berikutnya adalah pada “mengukur kemampuan”. OpenAI bertujuan untuk memberikan dukungan kepada proyek-proyek yang berfokus pada pengembangan metode kuantifikasi untuk mengevaluasi efektivitas model kecerdasan buatan di bidang keamanan siber. Selain itu, OpenAI bermaksud untuk “mengangkat wacana” dengan mendorong diskusi mendalam tentang hubungan rumit antara kecerdasan buatan dan keamanan siber.
Terkait: OpenAI menerima peringatan dari regulator Jepang tentang pengumpulan data
Inisiatif ini mengganggu perspektif konvensional tentang keamanan siber. OpenAI menggarisbawahi arti dari ungkapan yang umum didengar bahwa pembela harus selalu benar sedangkan penyerang harus berhasil hanya sekali. Namun, OpenAI mengakui kekuatan kolaborasi menuju tujuan bersama untuk menjaga keamanan orang. Mereka bertekad untuk membuktikan bahwa dengan bantuan AI, pembela HAM dapat mengubah dinamika dan meraih keunggulan.