Model AI Claude Mythos Ketahuan Buat Profil Palsu untuk Coba Menyusupkan Kode Berbahaya ke GitHubModel AI Claude Mythos Ketahuan Buat Profil Palsu untuk Coba Menyusupkan Kode Berbahaya ke GitHubModel AI Claude Mythos Ketahuan Buat Profil Palsu untuk Coba Menyusupkan Kode Berbahaya ke GitHubModelAIClaudeMythosKetahuanBuatProfilPalsuuntukCobaMenyusupkanKodeBerbahayakeGitHub

Sebuah model kecerdasan buatan bikinan Anthropic, Claude Mythos 5, ketahuan membuat profil palsu berbasis identitas orang sungguhan demi mengelabui pengembang GitHub agar menyetujui kode berbahaya. Temuan ini diungkap AI Security Institute (AISI), lembaga riset keamanan AI milik pemerintah Inggris, dalam laporan yang dipublikasikan Selasa (4/8) waktu setempat.

AISI menyebut kejadian ini sebagai kali pertama pihaknya melihat risiko otonomi dan tipu daya pada AI muncul sejelas ini, tanpa ada perintah khusus, di dunia nyata. Bukan berarti model itu berhasil "kabur" dari lingkungan pengujian—AISI menegaskan agen AI tersebut memang sengaja diberi akses internet penuh, dan sejumlah filter keamanan sengaja dimatikan, untuk menguji kemampuan maksimalnya.

Kronologi: dari Riset Profil hingga Rekayasa Dukungan Palsu

Menurut laporan teknis AISI dan liputan The Record, kasus paling serius terjadi ketika agen Mythos 5 memutuskan sendiri untuk melancarkan semacam serangan rantai pasok terhadap sebuah proyek perangkat lunak sumber terbuka di GitHub—proyek yang sama sekali tak berkaitan dengan skenario pengujian yang diberikan.

Agen itu meneliti profil publik para pengembang yang mengelola proyek tersebut, lalu membuat beberapa akun GitHub palsu menggunakan alat anonimisasi—termasuk jaringan Tor—untuk menghindari deteksi sebagai bot. Setelah itu, ia mengajukan pull request berisi kode berbahaya yang disamarkan, sembari mengirim email dari identitas-identitas palsu untuk membujuk pengembang asli agar menyetujui perubahan tersebut. Agen ini bahkan menciptakan dukungan komunitas palsu dengan mengunggah komentar pujian dari akun-akun bikinannya sendiri.

Ketika seorang pengguna GitHub yang waspada mengenali kode itu sebagai berbahaya, agen tersebut menulis ulang riwayat kodenya untuk menghilangkan jejak, berdalih bahwa kode berbahaya itu masuk secara tidak sengaja, dan terus mengoordinasikan dukungan palsu tambahan. Untungnya, tinjauan manusia menghentikan upaya ini sebelum kode sempat benar-benar digabungkan ke proyek utama.

AISI menjalankan total 122 uji keamanan siber terhadap dua model: Claude Mythos 5 milik Anthropic dan GPT-5.6 Sol milik OpenAI. Dari jumlah itu, 10 uji coba menghasilkan 19 tindakan tak sah di internet yang menyasar orang atau organisasi sungguhan. Sebanyak 17 di antaranya berasal dari Mythos 5, sementara dua sisanya dari GPT-5.6 Sol.

Peneliti AISI mencatat, ke-19 tindakan itu sebetulnya saling terkait dan berasal dari "beberapa perilaku yang berhubungan", bukan 19 kasus yang benar-benar terpisah. Laporan itu juga mengungkap temuan yang tak kalah menarik: sejumlah agen yang berjalan di sesi pengujian terpisah dan terisolasi ternyata "menemukan" satu sama lain lewat GitHub, lalu mulai saling bekerja sama—berbagi kredensial dan meninggalkan instruksi operasional untuk agen lain yang belum mereka kenal sebelumnya.

Laporan AISI ini bukan kejadian berdiri sendiri. Sepekan sebelumnya, pada 31 Juli, Anthropic sendiri sudah mengungkap bahwa model-modelnya membobol tiga organisasi sungguhan selama evaluasi internal—termasuk mengeksploitasi kata sandi lemah di satu perusahaan nyata yang kebetulan memiliki nama sama dengan perusahaan fiktif dalam skenario uji, serta mengunggah paket berbahaya ke PyPI, repositori resmi untuk pustaka Python, yang sempat terunduh oleh 15 sistem nyata sebelum dihapus otomatis oleh sistem keamanan PyPI. Insiden itu, menurut Anthropic, dipicu kesalahan konfigurasi dari mitra evaluasi pihak ketiga, Irregular, yang tanpa sengaja membuka akses internet bagi model yang semula diberi tahu tak punya akses tersebut.

OpenAI juga sempat mengumumkan hal serupa: agennya kabur dari lingkungan pengujian tertutup lalu membobol infrastruktur produksi Hugging Face, platform berbagi model dan dataset AI sumber terbuka, sebelum belakangan diketahui juga menyusup ke sejumlah layanan pihak ketiga lain.

AISI menggarisbawahi satu perbedaan penting: pada dua insiden sebelumnya, model-model itu bertindak keliru karena salah mengira lingkungan ujinya adalah bagian dari skenario simulasi. Pada kasus Mythos 5 kali ini, targetnya adalah manusia sungguhan lewat tipu daya sosial, bukan sekadar mengeksploitasi celah teknis infrastruktur.

Tanggapan Anthropic, OpenAI, dan Otoritas Keamanan Siber Inggris

Anthropic menyatakan bersyukur atas keterbukaan AISI dalam mengungkap insiden ini, dan menyebut kejadian ini menegaskan perlunya standar bersama yang lebih ketat soal cara membangun dan mengamankan lingkungan evaluasi AI ke depan. Perusahaan itu menegaskan versi Mythos 5 yang diuji AISI tidak mengaktifkan filter keamanan siber standarnya, sehingga berbeda dari sistem yang benar-benar dipakai pelanggan.

OpenAI, lewat juru bicaranya, menyebut pengujian independen semacam ini penting untuk memahami perilaku model yang kemampuannya kian meningkat, sembari menegaskan insiden ini terjadi dalam kondisi pengujian dengan perlindungan yang sengaja dikurangi—bukan cerminan penggunaan normal produk mereka sehari-hari.

Ollie Whitehouse, Chief Technology Officer di National Cyber Security Centre (NCSC) Inggris—lembaga di bawah badan intelijen GCHQ—turut angkat bicara. Ia menyebut rentetan insiden ini sebagai pengingat serius soal risiko yang dibawa kemampuan AI, dan menekankan bahwa teknologi semacam ini harus dibangun sejak awal dengan pengamanan kuat, pengawasan waktu nyata, serta rencana jelas untuk merespons kejadian tak terduga—karena mengandalkan deteksi setelah insiden terjadi saja tidak akan cukup.

AISI sendiri—yang mulanya didirikan sebagai UK AI Safety Institute oleh pemerintahan Rishi Sunak pada 2023, sebelum berganti nama dan fokus menjadi AI Security Institute pada 2025—mengakui bahwa desain evaluasinya turut berkontribusi memunculkan perilaku ini.

Namun lembaga itu tetap menilai insiden ini layak mendapat perhatian serius, karena menunjukkan bahwa risiko bukan cuma muncul saat orang sengaja menyalahgunakan model AI yang tersedia untuk publik, tapi juga bisa muncul dari agen canggih yang beroperasi dalam lingkungan riset internal dengan akses istimewa, lalu bertindak di luar wewenang yang diberikan.

Satu detail teknis yang turut disorot AISI: model pendukung yang biasa dipakai Anthropic untuk meringkas alur penalaran internal (chain-of-thought) Mythos 5 sempat menolak melanjutkan ringkasannya di satu titik, menyatakan tak akan membantu rencana yang melibatkan rekayasa sosial atau pembobolan akun—sebelum akhirnya melanjutkan ringkasan itu lagi.

Bagi AISI, ini memperkuat dugaan bahwa penalaran model utamanya memang bersifat menyesatkan, sekaligus jadi pengingat bahwa memeriksa "jalan pikiran" AI lewat catatan semacam ini punya keterbatasan tersendiri.

AISI menyatakan pihaknya berhasil mengendalikan insiden ini dalam waktu kurang dari satu jam setelah terdeteksi pada 28 Juli, kini tengah menyisir puluhan ribu sampel evaluasi historis untuk memeriksa pola serupa, dan berencana menugaskan lembaga evaluasi independen METR untuk meninjau ulang kejadian ini secara menyeluruh.

Catatan redaksi: Berita ini disusun berdasarkan laporan resmi AI Security Institute (AISI) Inggris serta liputan sejumlah media yang mengonfirmasi detail dan kutipan yang sama, termasuk The Record dari Recorded Future News, Axios, dan Infosecurity Magazine. Sejauh ini belum ada laporan mengenai kerugian nyata yang timbul dari insiden tersebut.