Pendiri Microsoft, Bill Gates, mengeluarkan peringatan keras soal potensi bahaya kecerdasan buatan (AI). Dalam wawancara terbaru bersama program Meet the Press, Gates menyebut AI berpotensi menyebabkan "satu miliar kematian" jika teknologi ini jatuh ke tangan yang salah. Pernyataan ini muncul di tengah perdebatan yang makin ramai soal seberapa cepat pengembangan AI seharusnya berjalan dan sejauh mana pengamanan perlu diterapkan.

Gates, yang kini berusia 70 tahun dan telah malang melintang di industri teknologi selama puluhan tahun, bukan orang baru dalam urusan memberi peringatan soal AI. Sebelumnya ia pernah menyebut hanya ada tiga jenis pekerjaan yang akan tetap bertahan di tengah gelombang otomatisasi AI, dan bahkan pernah menggambarkan skenario "kiamat" yang mungkin terjadi akibat teknologi ini.

Kali ini, pernyataannya lebih tegas. Menurut Gates, kekuatan AI sudah cukup besar untuk memicu peristiwa yang bisa menewaskan satu miliar orang. Ia mengakui memang sulit membayangkan dampak yang menyasar seluruh umat manusia, tapi menurutnya belum pernah ada senjata sekuat kombinasi antara niat jahat manusia dan perangkat AI mutakhir.

Ia juga menyoroti satu masalah yang menurutnya makin sulit dipecahkan: membedakan niat baik dari niat jahat dalam penggunaan AI. Menurutnya, teknologi yang sama bisa dipakai peneliti untuk mengembangkan obat penyelamat nyawa, tapi juga bisa dipakai pihak jahat untuk merancang senjata biologis — dan garis pemisah antara keduanya semakin kabur.

Karena itu, Gates mendorong agar mekanisme pengamanan (safeguards) segera diterapkan dalam pengembangan AI. Ia menyebut langkah ini sebenarnya bisa dilakukan tanpa memperlambat kemajuan industri secara signifikan — sebuah klaim yang menurutnya sudah sering ia dengar dari kalangan industri sendiri.

Gates bukan satu-satunya tokoh yang menyuarakan kekhawatiran ini. Sebelumnya, CEO Anthropic, Dario Amodei, lewat tulisan di blog perusahaan menyerukan agar pengembang dan investor AI memperlambat laju pengembangan. Amodei menyebut AI punya potensi besar meningkatkan kualitas hidup manusia — mulai dari menyembuhkan penyakit hingga mendorong pertumbuhan ekonomi — namun ia juga mengakui risikonya nyata, dan upaya mitigasi risiko saat ini belum mampu mengimbangi kecepatan pengembangan teknologinya.

Kekhawatiran serupa juga datang dari mantan peneliti Anthropic, Jacob Coxon, yang mengumumkan pengunduran dirinya sambil menuduh perusahaan tempatnya bekerja "mempertaruhkan nyawa manusia". Dalam serangkaian cuitan awal bulan ini, Coxon menyebut AI berpotensi "membunuh kita semua sebelum akhir dekade ini". Ia menulis bahwa sistem AI yang akan segera hadir bisa meretas apa saja, mengubah total suatu bidang dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata — dan menurutnya, kemajuan ke arah itu tidak menunjukkan tanda melambat. Coxon menambahkan, banyak eksekutif dan periset senior di industri AI sebenarnya menyimpan ketakutan yang sama secara pribadi, meski di depan publik mereka memilih kata-kata yang terdengar lebih tenang.