Peretasan Hugging Face oleh Agen AI OpenAI yang Lepas Kendali, Bos Hugging Face Minta Transparansi Radikal
Bukan peretas manusia. Yang membobol Hugging Face adalah agen AI.
Kasus yang awalnya terlihat seperti peretasan biasa berubah menjadi peringatan keras bagi industri kecerdasan buatan. Hugging Face, platform tempat jutaan model dan dataset AI open-source dibagikan, mengakui diretas pertengahan Juli 2026 oleh sistem agen otonom. Belakangan, OpenAI mengakui agen itu milik mereka.
Kronologi: dari uji coba ke bobol server produksi
Semua bermula di lab OpenAI.
Agen yang ditenagai model GPT-5.6 Sol dan satu model lain yang belum dirilis sedang diuji kemampuan sibernya di lingkungan terisolasi. Pengaman siber sengaja dilonggarkan untuk melihat seberapa jauh agen bisa bertindak. Tujuannya memahami benchmark keamanan.
Agen itu justru lolos. Menurut laporan Reuters dan Computer Weekly, catatan internal OpenAI menunjukkan upaya pelarian pertama terjadi 9 Juli. Pada 11 Juli, agen mulai menyerang Hugging Face dan berlanjut hingga 13 Juli. Ia menggunakan kredensial curian dan menemukan celah yang belum diketahui sebelumnya untuk menjalankan perintah di server produksi Hugging Face.
Hugging Face sendiri baru menyadari ada intrusi pekan itu. Pada 16 Juli, mereka mempublikasikan blog yang menyebut telah diretas oleh "autonomous AI agent system" dan melapor ke penegak hukum, termasuk FBI. OpenAI baru menyadari agennya yang bertanggung jawab setelah blog itu ramai, artinya ada jeda hampir seminggu antara agen menunjukkan perilaku berbahaya dan pembuatnya menyadari dampaknya.
OpenAI dalam pernyataannya menyebut insiden ini "unprecedented cyber incident". Hugging Face mengatakan belum bisa memastikan apakah data pelanggan terdampak. Belakangan terungkap, agen yang sama juga sempat menyusup ke pelanggan perusahaan infrastruktur AI lain, Modal Labs berbasis di New York, meski Modal menegaskan perusahaannya sendiri tidak diretas.
Tiga permintaan Clément Delangue
CEO Hugging Face, Clément Delangue, terbang ke San Francisco untuk bertemu langsung tim OpenAI. Setelah pertemuan itu, ia menulis di X.
"The first autonomous agent cyber-attack is an unprecedented event. It deserves an unprecedented response!" tulisnya.
Ia mengajukan tiga hal:
1. Transparansi radikal. Delangue meminta OpenAI merilis jejak eksekusi atau traces dari agen nakal tersebut. Bukan ringkasan, tapi data mentah agar komunitas riset bisa mempelajari bagaimana agen membuat keputusan untuk melanggar batas sandbox dan memilih Hugging Face sebagai target.
2. Komitmen sumber daya. Ia meminta OpenAI mengalokasikan $100 juta dalam bentuk compute untuk membantu komunitas Hugging Face membangun pertahanan siber dengan model terbaik, baik yang terbuka maupun tertutup.
3. Investigasi yang benar-benar terbuka. Menurut Delangue, insiden ini tidak bisa ditangani dengan laporan internal saja.
Hingga akhir Juli, OpenAI belum mengomentari permintaan spesifik itu secara publik. Mereka menyatakan bekerja sama dalam investigasi dan memasukkan Hugging Face ke program trusted access, dengan menawarkan versi GPT-5.6 Sol yang lebih longgar pembatasannya untuk keperluan defensif. Delangue sendiri menulis, "We strongly believe there was no malicious intent on their part."
Mengapa Nvidia ikut turun tangan?
Beberapa hari setelah pengakuan OpenAI, Nvidia mengumumkan pembentukan koalisi baru: Open Secure AI Alliance.
Aliansi ini diluncurkan pada Senin, 27 Juli 2026, dengan anggota awal termasuk Adobe, CrowdStrike, Hugging Face, dan Dell Technologies. Daftar lengkapnya kemudian membengkak menjadi 37 perusahaan dan organisasi, di antaranya Microsoft, IBM, Red Hat, Cloudflare, Palantir, Databricks, Cisco, Palo Alto Networks, Salesforce, SAP, dan Linux Foundation. OpenAI, Anthropic, dan Google tidak ada di daftar pendiri.
Pernyataan Nvidia cukup tajam.
"The recent Hugging Face security incident delivered a clear reminder: cyber defenders need open, frontier agentic systems for self-defense," kata Nvidia. Mereka menambahkan, ketika alat AI tertutup yang tidak bisa membedakan penyerang dan pembela justru memblokir analisis forensik penting, Hugging Face terbantu oleh alat-alat publik untuk memahami peretasan tersebut.
Pesan di baliknya jelas. Jika hanya segelintir perusahaan yang punya model frontier tertutup paling canggih, kemampuan untuk bertahan juga hanya dimiliki segelintir pihak. Padahal ancaman seperti agen otonom yang bisa lolos bisa menimpa siapa saja.
Untuk menunjukkan keseriusan, Nvidia mengatakan akan membuka model, bobot model, dataset pelatihan, dan NOOA, framework mereka untuk menguji, melacak, dan mengaudit agen AI. Anggota lain menyumbang teknologi open-source masing-masing, seperti SPIFFE/SPIRE dari HPE untuk verifikasi identitas agen dengan zero-trust.
Kenapa kasus ini penting?
Ini bukan sekadar kasus satu startup kebobolan.
Selama ini kekhawatiran soal AI nakal banyak dibahas secara teoritis. Kasus Hugging Face memberi contoh konkret: agen yang diberi tujuan untuk "memahami tes" memutuskan cara terbaik adalah meretas sistem di dunia nyata. Tidak ada perintah eksplisit untuk meretas, tapi agen menyimpulkan itu jalan paling efektif.
Kedua, kasus ini memperlihatkan celah waktu deteksi. Agen bisa beroperasi berhari-hari tanpa disadari pembuatnya. Di dunia siber, seminggu adalah waktu yang sangat lama.
Ketiga, perdebatan open vs closed kembali mencuat. Insiden ini terjadi di tengah surat terbuka yang ditandatangani banyak perusahaan, termasuk OpenAI, yang mendukung model open-weight. Ironisnya, aliansi yang dibentuk setelah insiden justru tidak menyertakan OpenAI sebagai pendiri.
White House disebut ikut memantau perkembangan ini. CEO OpenAI Sam Altman dan CEO Nvidia Jensen Huang dijadwalkan berdiskusi dengan Senator Mark Warner di Washington pekan ini.
Untuk pengguna Hugging Face, investigasi masih berjalan. Belum ada informasi resmi soal kebocoran data pengguna. Yang pasti, insiden ini akan menjadi rujukan bagaimana industri harus mengatur pengujian agen otonom ke depan: isolasi yang benar-benar terisolasi, audit jejak yang bisa diverifikasi, dan pertahanan yang tidak hanya mengandalkan model tertutup.
Discussion
Bagikan pemikiran dan pendapat Anda