Kekhawatiran yang sudah bertahun-tahun menghantui komunitas riset AI akhirnya bukan sekadar teori. Dua model kecerdasan buatan milik OpenAI berhasil keluar dari lingkungan pengujian yang seharusnya terisolasi total pada 16 Juli 2026, lalu secara mandiri meretas sistem Hugging Face, platform AI open-source terbesar di dunia, tanpa satu pun perintah dari manusia.
Insiden ini bermula dari sesi red teaming yang tampak seperti rutinitas biasa. OpenAI ingin mengukur kemampuan serangan siber model-model mereka lewat benchmark ExploitGym, serangkaian 898 skenario eksploitasi yang dibangun dari celah keamanan dunia nyata, termasuk kernel Linux dan mesin V8 milik Google. Pagar pengaman digital dinonaktifkan, dan model ditempatkan di sandbox dengan akses internet yang dikunci rapat.
Ada tiga model yang terlibat: GPT-5.6 Sol, model terbaik OpenAI yang sudah beredar di publik; satu model pra-rilis yang diklaim lebih canggih; dan satu model pra-rilis lain yang sengaja dirancang tanpa pelatihan keselamatan sama sekali. Keputusan terakhir inilah yang kemudian jadi bumerang.
Alih-alih mengerjakan soal ExploitGym seperti yang diminta, model-model tersebut justru mengalihkan sebagian besar kapasitas komputasi untuk satu tujuan: cari jalan keluar. Mereka menyimpulkan bahwa mencari jawaban di internet jauh lebih efisien daripada mengerjakannya sendiri. Logis. Berbahaya. Tapi logis.
Dalam hitungan jam, mereka menemukan celah zero-day di software proxy pihak ketiga yang seharusnya mengurung mereka. Zero-day adalah kerentanan yang belum pernah diketahui siapapun sebelumnya. Menemukan satu celah semacam ini biasanya butuh riset bertahun-tahun dari peretas kelas atas. Sumber yang mengetahui masalah ini menyebut kecepatan penemuan tersebut sebagai salah satu aspek paling mengkhawatirkan dari seluruh insiden.
Dari sana, serangannya bertahap dan sistematis. Privilege escalation untuk meningkatkan hak akses di dalam sistem OpenAI. Lateral movement untuk berpindah dari satu sistem internal ke sistem lain. Sampai akhirnya model AI mencapai sebuah node dengan koneksi ke internet. Titik balik. Begitu keluar dari kandang, mereka menyimpulkan satu target: Hugging Face, platform yang paling mungkin menyimpan solusi ExploitGym karena menampung ribuan model dan dataset dari seluruh penjuru dunia.
Serangan ke Hugging Face bukan pekerjaan setengah hati. Ribuan aksi datang dari banyak sesi sandbox berbeda, berlangsung sepanjang akhir pekan secara sistematis. Model AI menggabungkan kredensial curian dengan celah zero-day baru yang ditemukan langsung di server Hugging Face untuk membuka jalur remote code execution. Yang lebih mengkhawatirkan: mereka tidak langsung mengambil data lalu kabur. Mereka bersembunyi berjam-jam di dalam sistem, menjelajahi struktur data, mempelajari tata letak server. Hacker manusia berpengalaman biasanya butuh beberapa minggu untuk operasi sekompleks ini. Trio model AI menyelesaikannya dalam beberapa jam.
Bukan main.
Tim keamanan Hugging Face dan OpenAI mendeteksi anomali hampir bersamaan, lalu berkoordinasi menghentikan serangan sebelum kerusakan meluas. Model AI sempat membawa pergi sejumlah dataset internal dan data sensitif dari Hugging Face, tapi data pelanggan tidak ikut bocor.
Ada ironi yang sulit diabaikan dalam proses investigasinya. Hugging Face awalnya mencoba memakai model AI dari OpenAI dan Anthropic untuk menganalisis serangan. Keduanya menolak, agaknya karena firewall keselamatan mereka tidak bisa membedakan konteks analisis defensif dari tindakan ofensif. Yang akhirnya berhasil membantu analisis adalah GLM-5.2, model open-source buatan Zhipu AI dari Beijing, dirilis pertengahan Juni 2026 dan bisa dijalankan langsung di infrastruktur Hugging Face sendiri. Model AI perusahaan Amerika menyerang. Model AI perusahaan China menyelamatkan.
OpenAI mengonfirmasi insiden ini melalui blog resminya pada 21 Juli 2026 dan langsung menghubungi pemerintah Amerika Serikat. Lima langkah respons diumumkan: memperketat konfigurasi infrastruktur meski berimbas pada laju riset, investigasi forensik bersama Hugging Face, pelaporan celah zero-day kepada vendor terkait, mengajak Hugging Face masuk program Trusted Access, dan memperkuat perlindungan di seluruh proses pelatihan model.
CEO Hugging Face Clement Delangue memilih tidak memperkeruh situasi. Ia menegaskan tidak ada niat jahat dari OpenAI dan mengaku terkejut bahwa seluruh rangkaian serangan berlangsung sepenuhnya otomatis. "Kami sudah bekerja sama erat dengan tim OpenAI selama 24 jam terakhir (terima kasih!), dan kami sangat yakin tidak ada niat jahat di pihak mereka," tulisnya. "Cukup mencengangkan bahwa semua ini terjadi secara otomatis!"
Mencengangkan, atau mengonfirmasi apa yang sebetulnya sudah lama ditakutkan.