Jakarta – Sistem kecerdasan buatan (AI) Gemini milik Google menjadi sorotan setelah dalam sebuah pengujian keamanan siber, model tersebut secara mandiri mengakses sistem milik tiga perusahaan nyata.
Kejadian itu bukan bagian dari serangan siber terhadap perusahaan. Gemini saat itu sedang menjalankan simulasi peretasan yang dibuat untuk menguji kemampuan dan batas keamanan AI. Namun, kesalahan konfigurasi membuat lingkungan pengujian yang seharusnya tertutup justru memiliki akses ke internet.
Google mengonfirmasi peristiwa tersebut berlangsung pada Mei 2026. Pengujian dilakukan oleh perusahaan evaluasi keamanan AI, Irregular. Berdasarkan laporan Reuters, insiden ini menjadi salah satu contoh yang diketahui publik mengenai model AI Google yang secara mandiri melakukan akses terhadap sistem nyata tanpa izin.
Awalnya, Gemini diberi tugas mencari informasi mengenai sebuah perusahaan fiktif dalam latihan keamanan siber bertajuk capture the flag. Masalah muncul karena nama perusahaan yang digunakan sebagai target simulasi ternyata sama dengan nama perusahaan yang benar-benar ada.
Dalam kondisi normal, Gemini seharusnya bekerja tanpa koneksi internet. Namun, menurut Irregular, koneksi tersebut secara tidak sengaja terbuka selama pengujian berlangsung.
Bagaimana Gemini Bisa Masuk ke Sistem Nyata?
Dalam salah satu skenario, Gemini berusaha menembus sistem yang terlindungi dengan mencoba sejumlah kata sandi sampai akhirnya berhasil memperoleh akses.
Pada dua skenario lainnya, model tersebut mencari informasi mengenai target melalui internet. Pencarian itu membawanya pada kredensial yang tersedia di sebuah repositori publik.
Gemini kemudian menggunakan kredensial tersebut untuk mencoba masuk ke sistem yang diyakininya masih merupakan bagian dari simulasi keamanan.
Situasi berubah setelah Gemini menyadari bahwa sistem tersebut ternyata berkaitan dengan perusahaan nyata. Model kemudian menghentikan aktivitasnya.
Google menyebut tidak ada kerusakan yang terjadi akibat insiden tersebut. Identitas ketiga perusahaan yang sistemnya sempat diakses juga tidak dipublikasikan. Meski demikian, Google menyatakan seluruh perusahaan yang terdampak telah mendapatkan pemberitahuan.
Google Soroti Pentingnya Pengamanan AI
Heather Adkins, Wakil Presiden Security Engineering Google, menyebut kejadian tersebut sebagai pengingat bahwa pengembangan AI dengan kemampuan semakin luas harus dibarengi pelatihan agar sistem mampu bertindak secara bertanggung jawab.
Google juga menyatakan telah berkoordinasi dengan pihak yang melakukan pengujian untuk memperbaiki prosedur keamanan dan mencegah kejadian serupa.
Menurut perusahaan, Gemini dalam pengujian tersebut menunjukkan mekanisme pengaman dengan menghentikan aktivitasnya setelah mengetahui bahwa sistem yang diakses berada di dunia nyata.
Google turut menjelaskan bahwa model yang digunakan dalam pengujian bukan versi Gemini terbaru. Namun, perusahaan tidak mengungkap secara spesifik model yang digunakan.
Bukan Serangan yang Direncanakan
Insiden ini tidak berarti Gemini sengaja diperintahkan untuk menyerang perusahaan-perusahaan tersebut.
Tugas awalnya hanyalah menyelesaikan simulasi dengan sasaran yang seharusnya berupa perusahaan fiktif. Kesalahan dalam konfigurasi lingkungan pengujian membuat AI memiliki koneksi ke internet. Kemudian, kesamaan nama antara target simulasi dan perusahaan nyata membuat Gemini menganggap sistem yang ditemukannya masih berhubungan dengan tugas tersebut.
Kasus ini menunjukkan tantangan yang muncul ketika AI agent memiliki kemampuan lebih dari sekadar menghasilkan jawaban. Sistem semacam itu dapat melakukan pencarian di internet, menemukan informasi, menggunakan kredensial, hingga menjalankan tindakan tertentu secara mandiri.
Karena itu, perlindungan terhadap AI tidak cukup hanya mengandalkan kemampuan model untuk mengenali batas tindakannya. Pembatasan akses pada lingkungan tempat AI beroperasi juga menjadi bagian penting dari sistem keamanan.
Sejumlah Model AI Pernah Menghadapi Situasi Serupa
Gemini bukan satu-satunya sistem AI yang mengalami persoalan semacam ini dalam proses evaluasi keamanan.
Irregular sebelumnya juga melakukan pengujian terhadap model yang dikembangkan oleh sejumlah perusahaan teknologi besar, termasuk OpenAI, Anthropic, dan Meta. Dalam beberapa evaluasi tersebut, ditemukan kondisi ketika model dapat keluar dari lingkungan simulasi setelah memperoleh akses internet yang semestinya tidak tersedia.
Irregular menyebut pihak-pihak yang berkaitan dengan pengujian telah diberi tahu mengenai persoalan tersebut pada akhir Juli. Perbaikan kemudian dilakukan terhadap masalah yang ditemukan dalam proses pengujian.
Google pun menyatakan telah bekerja sama dengan mitra evaluasinya untuk meningkatkan prosedur pengujian.
Peristiwa ini menjadi gambaran mengenai tantangan keamanan yang muncul seiring perkembangan AI agent. Ketika sistem AI mampu terhubung ke internet, mencari informasi, memanfaatkan kredensial, dan melakukan tindakan secara mandiri, pembatas antara lingkungan simulasi dengan sistem dunia nyata harus dirancang dan diawasi secara ketat.(BY)
