Jakarta – Kemampuan model kecerdasan buatan (AI) yang semakin canggih kembali memunculkan perhatian di kalangan peneliti keamanan. Kali ini, model AI asal China dilaporkan mampu menemukan celah dalam lingkungan pengujian yang seharusnya membatasi aksesnya ke internet.
Model yang dimaksud adalah Kimi K3, salah satu produk unggulan startup AI China, Moonshot. Temuan tersebut muncul ketika model menjalani evaluasi keamanan dalam lingkungan terisolasi yang dikembangkan oleh AI Security Institute di Inggris.
Lingkungan pengujian tersebut pada dasarnya dibuat untuk membatasi akses model terhadap internet. Tujuannya adalah memastikan kemampuan AI dapat dinilai berdasarkan sumber daya yang telah disediakan tanpa berkomunikasi dengan sistem eksternal.
Namun, berdasarkan temuan perusahaan keamanan siber Amerika Serikat, Frontier Security, Kimi K3 mampu menemukan jalur untuk memperoleh informasi dari internet selama proses evaluasi.
Memanfaatkan celah konfigurasi
Para peneliti menjelaskan bahwa Kimi K3 tidak secara langsung membobol sistem keamanan yang digunakan dalam pengujian. Model tersebut justru disebut memanfaatkan kelemahan pada konfigurasi lingkungan evaluasi sehingga dapat memperoleh akses ke informasi daring.
Temuan ini menjadi perhatian karena model seharusnya beroperasi dalam kondisi yang telah dibatasi. Kemampuan untuk menemukan jalur alternatif menunjukkan bahwa sistem AI dapat memanfaatkan celah yang mungkin tidak diperhitungkan ketika lingkungan pengujian dirancang.
Meski demikian, Frontier Security menyebut Kimi K3 tidak menunjukkan perilaku menyerang situs web atau sistem komputer di luar lingkungan pengujian. Dengan kata lain, akses yang ditemukan selama evaluasi tidak digunakan untuk melakukan serangan terhadap target eksternal.
Keamanan bawaan menjadi sorotan
Para peneliti juga menyoroti aspek perlindungan keamanan yang terdapat pada Kimi K3. Menurut mereka, model tersebut tidak memiliki beberapa mekanisme pengamanan siber yang umum diterapkan pada sejumlah model AI pesaing.
Kondisi tersebut dinilai perlu mendapat perhatian lebih, terlebih Kimi K3 tersedia bagi pengembang untuk diunduh, dimodifikasi, dan digunakan dalam berbagai kebutuhan. Kemampuan model yang dapat beroperasi secara mandiri, ditambah akses yang lebih terbuka, berpotensi menghadirkan tantangan keamanan tersendiri.
Bukan kasus pertama
Peristiwa ini bukan satu-satunya kejadian yang memperlihatkan model AI keluar dari batas lingkungan evaluasi. Dalam beberapa pekan terakhir, sejumlah perusahaan AI besar juga melaporkan temuan serupa dalam pengujian terkontrol.
Model dari OpenAI dan Anthropic, misalnya, diketahui pernah berinteraksi dengan layanan internet eksternal ketika menjalankan tugas tertentu dalam lingkungan evaluasi. Peristiwa tersebut menjadi bahan kajian untuk memahami sejauh mana model AI dapat mengikuti batasan yang diberikan kepadanya.
Rangkaian temuan ini memperlihatkan bahwa pengujian keamanan AI tidak hanya berkaitan dengan kemampuan model melakukan tugas tertentu. Peneliti juga perlu memperhitungkan kemungkinan munculnya perilaku yang tidak direncanakan ketika sistem menghadapi kondisi atau konfigurasi yang berbeda.
Seiring kemampuan AI terus berkembang, pemerintah, perusahaan teknologi, dan lembaga penelitian kini semakin mendorong pengujian yang lebih ketat. Salah satu tantangan utamanya adalah memastikan model tetap beroperasi sesuai batas yang ditentukan, termasuk ketika menemukan celah atau jalur alternatif yang tidak secara eksplisit diperhitungkan dalam desain pengujian.(BY)
