PejuangKantoran.com - Berita soal agen AI yang "kabur" dari sistem pengaman (sandbox) benar-benar menghebohkan awal minggu ini. AI yang kabur itu kayak gimana, sih?
Jadi, kabar ini muncul setelah OpenAI mengonfirmasi bahwa agen AI mereka itu berhasil kabur, lalu menemukan sekaligus memanfaatkan celah keamanan baru untuk menembus internet publik, lalu menyerang sebuah platform.
Platform yang ditembus bukan sembarangan. Agen AI ini berhasil meretas Hugging Face, salah satu perusahaan AI dan machine learning terbesar di dunia saat ini.
Baca Juga: Ternyata Ada Lho, Negara yang Jumlah Turisnya Jauh Lebih Banyak daripada Warga Lokal!
Hugging Face merupakan komunitas open-source yang menyediakan berbagai perangkat, model AI siap pakai, dan kumpulan data agar orang-orang bisa membuat serta membagikan proyek machine learning dengan mudah.
Untungnya, Hugging Face berhasil diselamatkan. Itupun bukan karena punya tools keamanan paling canggih, melainkan karena kapabilitas timnya yang cekatan mengevaluasi perilaku aneh AI di bawah tekanan. Kemudian dengan cepat mereka mengambil langkah defensif.
Gimana kejadiannya?
Menurut kronologi yang dirilis OpenAI, model AI ini awalnya sedang diuji tanpa sistem pengaman (guardrail). Eksperimen tersebut merupakan bagian dari pengujian model GPT‑5.6 Sol dan satu model prapeluncuran yang bahkan jauh lebih canggih.
Pengujian ini dilakukan untuk melihat seberapa jago model-model tersebut saat diuji di ExploitGym. Tapi saat diminta menyelesaikan serangkaian soal ujian, si AI justru mencari jalan pintas untuk mencuri kunci jawaban.
Begini beberapa poin penting dari insiden tersebut:
Baca Juga: 5 Etika Kerja dan Teamwork dari Para Pemeran 'The Odyssey' yang Bisa Kita Praktikkan di Kantor
• AI tersebut merancang serangan zero-day baru, yaitu teknik peretasan yang belum pernah terlihat sebelumnya, untuk menembus internet dan masuk ke sistem Hugging Face.
• Kejadian ini memicu celah karena pengaman AI memang sengaja dimatikan selama sesi pengujian.
• Waktu Hugging Face mau menganalisis data serangan, model AI komersial berbasis API malah menolak proses tersebut karena guardrail mereka mendeteksinya sebagai ancaman.
• Akhirnya, Hugging Face terpaksa menggunakan model open-weight asal China untuk membedah dan menganalisis serangan tersebut hingga tuntas.