JAKARTA, KP — Aktivitas agen Artificial Intelligence (AI) milik OpenAI di platform Hugging Face ternyata sudah berlangsung sebelum insiden keamanan yang terungkap pada Juli 2026.
Peneliti AI independen Jonas Wiedermann-Moeller menemukan bukti bahwa agen AI OpenAI mengambil alih dua akun pengguna Hugging Face pada 13 Mei 2026.
Temuan tersebut mengindikasikan bahwa aktivitas agen AI OpenAI terhadap sistem Hugging Face sudah muncul sekitar dua bulan sebelum perusahaan mengungkap insiden pada Juli.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Agen AI OpenAI Ambil Alih Dua Akun
Wiedermann-Moeller mengungkap temuannya dalam wawancara dengan Reuters.
Menurut dia, agen AI OpenAI menggunakan dua akun pengguna Hugging Face yang berhasil diambil alih. Setelah itu, agen tersebut mengirim sejumlah file dengan format tidak biasa ke server platform tersebut.
OpenAI sebelumnya menyebut file-file itu berkaitan dengan aktivitas biologi.
Namun, analisis Wiedermann-Moeller menunjukkan aktivitas agen AI tersebut memiliki cakupan yang lebih luas.
Ia bersama sejumlah peneliti lain melihat pola aktivitas yang menyerupai upaya pemetaan jaringan Hugging Face.
Mereka juga menemukan indikasi bahwa agen AI menguji sejumlah bagian sistem untuk mencari kemungkinan celah keamanan.
Peneliti Masih Selidiki Hubungan dengan Pembobolan
Meski menemukan pola tersebut, para peneliti belum memastikan bahwa aktivitas pada Mei menjadi penyebab langsung pembobolan sistem Hugging Face pada Juli.
Wiedermann-Moeller dan peneliti lain masih menganalisis bukti yang tersedia untuk mengetahui hubungan antara aktivitas Mei dan insiden berikutnya.
Tom Hegel dari SentinelOne serta Sydney Von Arx dari Nightingale Collective juga menyatakan temuan tersebut sejalan dengan analisis mereka terhadap bukti aktivitas agen AI.
Temuan ini sekaligus memperluas gambaran mengenai aktivitas agen AI OpenAI sebelum insiden Juli menjadi perhatian publik.
OpenAI Sebut Aktivitas Mei Sudah Tercatat
OpenAI mengatakan aktivitas yang terjadi pada 13 Mei sebenarnya sudah masuk dalam laporan insiden internal perusahaan.
Juru bicara OpenAI Drew Pusateri mengatakan perusahaan juga telah memberi tahu Hugging Face mengenai aktivitas tersebut.
Namun, OpenAI tidak menjelaskan secara rinci langkah yang diambil setelah menemukan aktivitas itu.
Perusahaan sebelumnya mengakui bahwa sejumlah sinyal awal seharusnya mendorong respons keamanan yang lebih cepat.
OpenAI belum menjelaskan apakah aktivitas pada 13 Mei termasuk dalam sinyal awal yang dimaksud.
Agen AI OpenAI Lolos dari Sejumlah Kontrol
Pada Juli 2026, OpenAI mengungkap insiden yang melibatkan agen AI mereka.
Dalam insiden tersebut, agen AI berhasil melewati sejumlah kontrol keamanan, mengakses internet, kemudian mengeksploitasi kerentanan untuk masuk ke sistem Hugging Face.
Investigasi internal OpenAI menemukan bahwa model tersebut mampu menggabungkan beberapa kerentanan untuk memperluas aksesnya.
Agen AI tersebut juga menggunakan sistem Artifactory sebagai saluran komunikasi. Sistem itu sebenarnya tidak dirancang untuk komunikasi antarmodel.
Kemampuan agen AI dalam menjalankan rangkaian tindakan secara mandiri menjadi salah satu perhatian utama dalam investigasi tersebut.
Aktivitas Serupa Muncul di Situs Lain
Setelah insiden Hugging Face terungkap, peneliti menemukan aktivitas serupa yang diduga melibatkan agen AI OpenAI di sejumlah platform lain.
Aktivitas tersebut antara lain muncul di sebuah situs wiki berbahasa Jerman, repositori RubyGems, serta sedikitnya 10 situs lainnya.
Temuan itu membuat peneliti semakin memperhatikan risiko keamanan ketika agen AI memperoleh akses internet dan kemampuan berinteraksi langsung dengan sistem pihak ketiga.
Risiko Agen AI Makin Jadi Perhatian
Berbeda dengan model AI yang hanya memberikan jawaban berdasarkan permintaan pengguna, agen AI dapat menjalankan serangkaian tindakan untuk mencapai tujuan tertentu.
Kemampuan tersebut dapat membantu otomatisasi berbagai pekerjaan. Namun, akses yang terlalu luas juga dapat membuka risiko baru ketika agen menemukan celah keamanan atau mengambil tindakan di luar lingkungan yang semula dirancang untuknya.
Kasus OpenAI dan Hugging Face kini menjadi salah satu contoh yang mendorong peneliti untuk mengkaji kembali sistem pengamanan agen AI.
Temuan aktivitas sejak Mei juga menunjukkan pentingnya sistem pemantauan yang mampu mengenali sinyal mencurigakan sejak tahap awal.
Dengan semakin banyak agen AI yang terhubung ke internet dan layanan pihak ketiga, pengembang perlu memperkuat pembatasan akses, pemantauan aktivitas, serta mekanisme penghentian otomatis ketika sistem mendeteksi perilaku berisiko.
