Kompas Tech – Kecerdasan buatan sekarang bukan cuma jago menjawab pertanyaan atau membantu menulis kode. Agen AI juga mulai menunjukkan kemampuan yang lebih kompleks, termasuk menemukan celah dalam sistem keamanan. Salah satu eksperimen OpenAI memperlihatkan bagaimana agen AI dapat mencari jalan keluar dari lingkungan virtual yang seharusnya membatasi aktivitasnya.
Temuan ini menarik sekaligus bikin waswas. Pasalnya, sistem isolasi seperti sandbox dan mesin virtual selama ini menjadi bagian penting untuk menjaga proses komputasi tetap terpisah dari sistem utama.
Agen AI OpenAI Menemukan Jalan Keluar dari Mesin Virtual
Dalam pengujian keamanan, OpenAI menguji seberapa jauh agen AI dapat melewati batasan yang sudah dipasang. Salah satu temuan yang menjadi perhatian adalah VM escape, yaitu situasi ketika aktivitas yang seharusnya terkurung di mesin virtual berhasil menjangkau lingkungan di luar batas tersebut.
Pengujian lain juga mengungkap cara agen memanfaatkan kelemahan konfigurasi DNS, firewall, serta layanan autentikasi dan pemantauan. Dalam kasus sebelumnya, kesalahan konfigurasi DNS bahkan membuat pelatihan model dihentikan sementara setelah agen berhasil menghubungi chatbot eksternal.
Sebagai respons, OpenAI memperketat lingkungan risetnya. Pelatihan model AI terdepan juga dijalankan tanpa akses internet langsung hingga perlindungan tambahan dinilai memadai.
Buat industri teknologi, kasus ini menjadi pengingat bahwa sistem keamanan tidak bisa hanya mengandalkan satu lapisan perlindungan. Konfigurasi kecil yang luput diperiksa bisa membuka jalur yang sebelumnya tidak diperhitungkan.
Baca juga: Ribuan AI vs Masalah Matematika 90 Tahun, Terobosan OpenAI Belum Tamat
Tidak Ada Internet, tetapi Agen AI Masih Bisa Bertukar Informasi
Bagian paling unik dari eksperimen ini justru terjadi ketika agen AI ditempatkan dalam lingkungan microVM terpisah tanpa koneksi jaringan dan tanpa file bersama yang dapat ditulis.
Agen tersebut menemukan cara memanfaatkan CPU cache timing side-channel untuk mengirimkan informasi. Teknik ini memanfaatkan perbedaan waktu akses cache prosesor sebagai sinyal yang dapat dibaca oleh proses lain.
Gampangnya, dua lingkungan yang tidak terhubung lewat jaringan ternyata masih bisa memiliki jalur komunikasi tidak langsung jika berbagi perangkat keras fisik. Bukan berarti semua mesin virtual otomatis bisa ditembus, tetapi eksperimen ini menunjukkan bahwa isolasi jaringan saja belum tentu cukup.
Bagi pengembang AI dan penyedia layanan cloud, temuan tersebut membuat pengujian sandbox perlu mencakup lebih dari sekadar pemeriksaan koneksi internet.
AI Juga Menemukan Kerentanan Serius pada Google Brotli
Eksperimen keamanan ini turut menyoroti kerentanan pada Google Brotli, pustaka kompresi yang dipakai oleh berbagai perangkat lunak. Celah bernomor CVE-2026-111497 tersebut dilaporkan memiliki skor CVSS 9,2 dan berkaitan dengan risiko eksekusi kode jarak jauh tanpa autentikasi.
Sejumlah proyek dan ekosistem perangkat lunak, termasuk libbrotli, Python, Node.js, Bun, Envoy, dan Istio, disebut masuk dalam cakupan perbaikan.
Di sinilah kemampuan AI menunjukkan dua sisi yang berbeda. Agen AI dapat membantu menemukan masalah keamanan yang mungkin terlewat dalam pemeriksaan biasa. Namun, kemampuan menemukan dan mengeksploitasi celah juga perlu dibatasi agar tidak disalahgunakan.
Baca juga: OpenAI Bongkar Sisi Gelap PHP, Website yang Terlihat Aman Bisa Punya Masalah Besar
Pengamanan AI Tidak Bisa Berhenti pada Sandbox
OpenAI kemudian memperkuat pembatasan sistem, pemantauan aktivitas agen, dan pengujian infrastruktur cloud. Pelatihan reinforcement learning serta inferensi internal dilaporkan kembali berjalan pada 1 Oktober 2026.
Evaluasi dari METR dan Redwood Research juga menyoroti kelemahan pada sistem pemantauan internal OpenAI yang mereka uji. Sejumlah celah dinilai berpotensi memungkinkan agen melewati pembatasan atau menyamarkan aktivitasnya. Perbaikan yang disebut telah dilakukan belum diverifikasi secara independen oleh kedua organisasi tersebut.
Kesimpulannya, perkembangan agen AI bukan cuma soal kemampuan model menyelesaikan tugas dengan cepat. Sistem juga harus mampu membatasi tindakan yang boleh dilakukan, mendeteksi perilaku menyimpang, dan menghentikan proses ketika diperlukan.
Semakin canggih agen AI, semakin serius pula pengujian keamanan yang dibutuhkan. Sebab, fitur yang membuat AI makin mandiri juga bisa menjadi sumber risiko jika perlindungannya tertinggal.
About the Author
