berita.akasta.ac.id – Raksasa AI menghadapi tantangan dalam membatasi akses ke model mereka akibat kebijakan ketat yang diterapkan untuk mencegah penyalahgunaan oleh peretas. Kebijakan ini berdampak negatif pada peneliti keamanan jaringan yang sah serta peneliti keamanan siber ofensif.
Pada bulan Juni, pemerintah AS menerapkan pembatasan ekspor pada model AI Anthropic, Mythos dan Fable, sebagai respons terhadap laporan yang mengklaim bahwa model tersebut dapat dilanggar. Pembatasan ini bertujuan untuk mengantisipasi kemungkinan penggunaannya dalam serangan siber yang jahat. Meskipun demikian, pembatasan ini juga menghalangi peneliti yang berusaha menemukan dan memperbaiki kerentanan sistem.
Model-model AI seperti Mythos diiklankan sebagai mesin cyber yang harus digunakan oleh pengguna yang telah diverifikasi secara ketat. Meskipun ada upaya untuk menyediakan akses terbatas bagi peneliti keamanan melalui program seperti Trusted Access for Cyber dari OpenAI dan Cyber Verification Program dari Anthropic, banyak peneliti menyatakan bahwa batasan ini merugikan upaya mereka.
Mark Dowd, seorang peneliti keamanan, menyatakan bahwa keputusan sepihak dari perusahaan besar mengenai keamanan menyulitkan peneliti yang berusaha mengidentifikasi kerentanan baru. Demikian pula, Chris Anley dari NCC Group menunjukkan bahwa pembatasan dalam model AI menghambat konfirmasi adanya kerentanan yang perlu ditangani.
Sejumlah peneliti lebih memilih model sumber terbuka yang tidak memiliki pembatasan untuk menghindari masalah dengan batasan ketat ini. Chris Thompson dari RemoteThreat menekankan bahwa batasan yang tidak konsisten hanya mengganggu pekerjaan peneliti, mendorong mereka untuk beralih ke model asing yang lebih fleksibel.
Mereka semua sepakat bahwa upaya untuk memperketat pembatasan justru dapat merugikan usaha melawan serangan siber yang semakin kompleks dan cepat.
