Anthropic mengatakan telah mengidentifikasi dan menghentikan upaya penggunaan model kecerdasan buatannya untuk “aktivitas berbahaya” yang berpotensi mendukung pengembangan senjata biologis maupun senjata konvensional.
Menurut laporan intelijen ancaman terbaru Anthropic, model AI milik perusahaan tersebut, Claude, juga digunakan dalam kampanye spionase siber yang terkait dengan Rusia serta oleh sebuah lembaga propaganda Iran.
Kasus-kasus yang menjadi perhatian dan terdeteksi dalam delapan bulan terakhir mencakup berbagai aktivitas, mulai dari aplikasi kencan palsu dan penipuan melalui Wi-Fi hotel hingga sistem pengawasan yang dirancang untuk mengidentifikasi para pembangkang.
Pengungkapan tersebut muncul setelah seorang peneliti keselamatan terkemuka di Anthropic memperingatkan mengenai potensi risiko AI terhadap umat manusia.
Anthropic juga menuduh perusahaan-perusahaan AI China berupaya meniru kemampuan Claude.
Perusahaan tersebut menerbitkan laporan intelijen ancaman terbarunya pada Kamis, dengan mengatakan bahwa langkah itu dilakukan karena Anthropic merasa “memiliki tanggung jawab untuk mengungkap penyalahgunaan layanan kami untuk tujuan berbahaya”.
Laporan panjang tersebut mencantumkan sejumlah kasus ketika kelompok yang diduga disponsori negara, pelaku kriminal, penyedia spyware, lembaga propaganda negara, dan individu yang memiliki motivasi politik menyalahgunakan teknologi Anthropic.
Anthropic mengatakan penyalahgunaan model Claude Haiku, Sonnet, dan Opus untuk tujuan berbahaya berhasil dihentikan dalam periode Desember 2025 hingga Agustus 2026.
Tidak ada kasus penyalahgunaan yang melibatkan Claude Fable atau model kelas Mythos yang lebih canggih, kecuali satu kasus distilasi, yakni proses melatih model AI yang lebih kecil menggunakan model yang lebih besar dan mahal.
Selain mendeteksi penggunaan modelnya dalam operasi siber dan operasi pengaruh, pengawasan, penipuan dan fraud, serta pengembangan senjata, Anthropic mengatakan telah memblokir para ilmuwan yang menggunakan AI miliknya dengan cara yang berpotensi mendukung pengembangan senjata biologis.
Laporan tersebut menyoroti “lima studi kasus mengenai aktor yang menggunakan model kami dengan cara yang dapat mendukung pengembangan senjata biologis”.
Anthropic mengatakan penyalahgunaan biologis merupakan “salah satu risiko paling serius dari model AI terdepan”. Tanpa perlindungan yang tepat, kemampuan tersebut “dapat menimbulkan konsekuensi yang sangat buruk”, kata perusahaan itu.
“Informasi yang sama yang dapat digunakan untuk mengembangkan senjata biologis juga dapat digunakan untuk mengembangkan, misalnya, vaksin atau obat untuk suatu penyakit,” kata Anthropic.
Jacob Klein, kepala intelijen ancaman Anthropic, mengatakan kepada New York Times bahwa persoalan tersebut merupakan “situasi yang sangat rumit”.
“Anda tidak melihat seseorang seperti dalam komik mengatakan, ‘Hei, saya ingin membuat senjata biologis untuk membunuh semua orang,'” ujarnya.
Laporan tersebut juga mencatat enam kasus ketika Claude digunakan “untuk mengembangkan perangkat lunak bagi senjata konvensional, termasuk senjata api, rudal, drone bersenjata, bom, dan amunisi lainnya, serta sistem penargetan dan kendali yang mengoperasikannya”.
Laporan tersebut menunjukkan bahwa pelaku kejahatan siber dan peretas yang didukung negara semakin sering menggunakan teknologi Anthropic untuk membantu operasi mereka.
Kelompok peretas ShinyHunters serta sejumlah laboratorium yang berbasis di China termasuk pihak yang disebut dalam laporan tersebut.
Laporan itu juga mengatakan sebuah kelompok peretas yang aktivitasnya konsisten dengan kelompok Midnight Blizzard yang berbasis di Rusia diduga menggunakan AI untuk membangun sistem yang secara otomatis mendeteksi ketika malware mereka ditandai oleh sistem pertahanan keamanan. Sistem tersebut kemudian menulis ulang kode hingga malware berhasil menghindari deteksi.
Perusahaan yang berbasis di California tersebut mengatakan telah memasukkan temuan-temuan itu ke dalam proses internalnya “untuk mencegah, mendeteksi, dan menghentikan aktivitas semacam ini dengan lebih baik di masa mendatang”.
Anthropic mengatakan telah membagikan informasi intelijen kepada pihak berwenang dan mitra industri jika dianggap sesuai.
Laporan tersebut, yang merupakan laporan pertama perusahaan tahun ini, diterbitkan setelah seorang peneliti keselamatan terkemuka Anthropic memperingatkan bahwa perkembangan AI berlangsung begitu cepat sehingga ia menilai terdapat kemungkinan lebih dari 10 persen bahwa teknologi tersebut “dapat membunuh seluruh umat manusia” dalam satu dekade mendatang.
Dalam artikel yang diterbitkan pada 6 September, kepala ilmuwan OpenAI Jakub Pachocki menyerukan agar industri menerapkan “perlambatan sukarela” hingga perlindungan yang memadai tersedia.
“Saya khawatir tidak ada yang siap menghadapi konsekuensi dari peningkatan kecerdasan mesin yang terus berlangsung dengan cepat,” kata Pachocki. Ia menambahkan bahwa OpenAI, perusahaan pembuat ChatGPT, akan terus mengembangkan sistem perlindungan, meskipun diperlukan intervensi yang lebih luas.
Peringatan tersebut memicu surat terbuka kepada Perdana Menteri Inggris Andy Burnham yang menyerukan perjanjian multinasional baru untuk pengembangan AI yang aman. Seruan lainnya meminta pemerintah bekerja sama untuk menentukan seperti apa perjanjian yang berlandaskan pada pengembangan superinteligensi seharusnya dibuat.
Di Amerika Serikat, anggota parlemen dari Partai Demokrat Bernie Sanders telah mengajukan rancangan undang-undang untuk melarang superinteligensi AI dan menghentikan sementara pengembangan AI canggih.
“Ketika para ilmuwan memberi tahu Anda bahwa ada kemungkinan, kemungkinan bahwa teknologi ini dapat memberikan dampak bencana terhadap umat manusia, Anda harus benar-benar bodoh jika tidak mengatakan, perlambat,” katanya pada Kamis.
