Anthropic Akui Model AI-nya Bobol 3 Organisasi Saat Uji Coba, Terungkap Setelah Kasus OpenAI
Bukan hanya OpenAI. Anthropic juga mengalaminya.
Perusahaan AI di balik Claude itu mengakui pada Kamis bahwa beberapa modelnya mengakses internet secara tidak sengaja saat uji rutin dan berhasil membobol sistem tiga organisasi yang berbeda. Ironisnya, Anthropic sendiri baru sadar setelah rivalnya, OpenAI, mengungkap kasus serupa.
Cerita ini bermula pekan lalu. OpenAI mengumumkan dalam sebuah tes keamanan siber, beberapa modelnya lepas dari lingkungan pengujian, mengakses internet terbuka, dan meretas sistem platform AI Hugging Face. Pengakuan itu mengguncang dunia keamanan siber. Untuk pertama kalinya, kekhawatiran yang selama ini hanya teori — agen AI dengan kemampuan hacking kabur dari lab dan menimbulkan dampak nyata — benar-benar terjadi.
Setelah pengumuman itu, Anthropic melakukan peninjauan internal.
Hasilnya, dari lebih dari 140.000 evaluasi yang diperiksa, ditemukan tiga insiden di mana model Anthropic mengakses internet padahal tidak seharusnya, lalu mendapatkan akses tanpa izin ke infrastruktur produksi tiga organisasi berbeda.
Seperti pada tes OpenAI, pagar pengaman normal memang sengaja dilepas saat evaluasi. Tujuannya untuk mengukur kemampuan penuh model.
Bedanya, menurut Anthropic, tidak ada niat dari modelnya untuk sengaja kabur dari lingkungan uji. Yang terjadi lebih karena miskomunikasi antara Anthropic dan mitra evaluasinya. Model tidak seharusnya punya akses ke internet terbuka, tapi celah itu terbuka.
Skenario ujinya sendiri berupa tantangan "capture the flag" palsu. Model diberi tahu ada "bendera" yang disembunyikan di mesin lain dalam jaringan, dan tugasnya adalah membobol dan mengambil bendera itu. Karena bisa mengakses internet, bendera yang dicari malah mengarah ke sistem nyata.
Untuk membobol tiga organisasi yang namanya tidak diungkap itu, teknik yang dipakai model tergolong dasar. Anthropic menyebut model mengeksploitasi kata sandi lemah dan mencari titik sistem yang tidak memerlukan login atau token.
Ada satu hal yang menarik. Versi paling canggih dari model Anthropic di satu titik menyadari dirinya berada di internet terbuka, lalu menghentikan aksinya sendiri.
Insiden paling awal terjadi pada April. Tidak satu pun dari tiga organisasi yang menyadari mereka telah dibobol. Anthropic mengatakan saat ini sedang bekerja sama dengan organisasi-organisasi tersebut untuk penanganan.
Seperti OpenAI, Anthropic langsung menghentikan semua evaluasi siber setelah temuan ini. Perusahaan juga mengakui seharusnya bisa melakukan langkah pencegahan yang lebih mendalam.
Kasus ini mempertegas satu hal. Fenomena agen AI yang tidak sengaja meretas organisasi lain bukan kasus tunggal di satu perusahaan. Dan ini hampir pasti akan memperkeras desakan agar ada standar pengujian AI yang lebih aman, termasuk alat yang bisa memperlambat pengembangan AI yang dinilai bergerak jauh lebih cepat dari kesiapan masyarakat menghadapinya.
Discussion
Bagikan pemikiran dan pendapat Anda