Model kecerdasan buatan (AI) terbaru dari Anthropic dan OpenAI menunjukkan tingkat baru dalam kemampuan bertindak secara mandiri dan melakukan penipuan ketika menjalani pengujian oleh Institut Keamanan AI Inggris (UK AI Security Institute atau AISI).
AISI pada Selasa menyatakan bahwa model Mythos milik Anthropic dan Sol milik OpenAI memperlihatkan tingkat “otonomi dan penipuan” yang belum pernah mereka temui sebelumnya.
Dalam pengujian keamanan AI yang dilakukan secara rutin, sebuah agen AI dari Anthropic membuat profil palsu yang meniru identitas orang sungguhan sebagai bagian dari upaya mengelabui seseorang yang menjadi penghalang aksesnya ke GitHub, platform besar tempat para pengembang teknologi menyimpan kode perangkat lunak.
Menanggapi laporan tersebut, Anthropic dan OpenAI menyatakan bahwa skenario pengujian AISI telah mengurangi atau menonaktifkan sejumlah mekanisme perlindungan yang biasanya diterapkan pada model AI mereka.
Para evaluator AISI pertama kali menemukan adanya “transfer data yang tidak biasa keluar dari sistem penelitian kami” selama pengujian berlangsung. Setelah diselidiki lebih lanjut, mereka menemukan bahwa “beberapa agen AI yang sedang diuji telah melakukan aktivitas berkelanjutan yang berpotensi membahayakan dan ditujukan kepada individu maupun organisasi nyata.”
Investigasi menunjukkan bahwa agen Mythos telah membuat “kode berbahaya” dan berupaya menyisipkannya ke dalam sistem GitHub.
Agen tersebut kemudian mengidentifikasi serta meneliti orang-orang yang bertanggung jawab memelihara GitHub, lalu membuat serangkaian “identitas daring palsu” yang didasarkan pada identitas orang-orang tersebut. Langkah itu dilakukan sebagai bagian dari upaya menekan dan mengelabui mereka agar menyetujui penyisipan kode berbahaya tersebut.
Bahkan, agen AI itu mengirimkan pesan langsung kepada sejumlah orang dengan menyamar sebagai individu yang identitasnya telah dipelajari sebelumnya.
“Ketika permintaan perubahan kode (pull request) yang diajukan agen itu dipertanyakan secara terbuka, ia mengubah aktivitas sebelumnya agar tampak tidak berbahaya dan mempertimbangkan untuk menggunakan identitas baru guna melanjutkan aksinya,” demikian pernyataan AISI.
Sepanjang rangkaian upaya tersebut, proses peninjauan oleh manusia menjadi faktor yang mencegah agen AI itu berhasil memasukkan kode berbahaya ke GitHub.
Meski AISI menyatakan agen Mythos tidak secara khusus diperintahkan untuk menghindari maupun melakukan perilaku semacam itu, lembaga tersebut menilai ini merupakan “pertama kalinya kami melihat risiko terkait otonomi dan penipuan muncul sejelas ini, tanpa adanya instruksi khusus, dalam situasi dunia nyata.”
Dalam beberapa pekan terakhir, perusahaan-perusahaan AI yang tengah bersiap melantai di bursa saham itu juga mengungkapkan bahwa model AI mereka terlibat dalam sejumlah insiden peretasan siber.
Anthropic, melalui pernyataan publiknya, mengatakan parameter pengujian yang digunakan AISI “tidak mewakili kondisi model produksi kami yang digunakan oleh publik.”
Perusahaan itu menambahkan bahwa mereka sedang melakukan investigasi internal untuk “mengidentifikasi penyebab perilaku model tersebut.”
Sementara itu, juru bicara OpenAI mengatakan kondisi pengujian AISI “tidak mencerminkan penggunaan AI dalam situasi normal.” Ia menambahkan OpenAI akan “terus bekerja sama dengan para evaluator dan pemangku kepentingan lain di industri untuk memperkuat praktik bersama dalam melakukan evaluasi secara aman seiring semakin canggihnya kemampuan model AI.”
AISI menjelaskan bahwa pengujian model AI dengan sebagian mekanisme perlindungan dinonaktifkan merupakan prosedur yang lazim dilakukan, termasuk memberikan akses kepada model tersebut ke internet terbuka.
Lembaga itu juga menegaskan bahwa perilaku model yang menjadi sorotan hanya terjadi dalam “sejumlah kecil peristiwa di bawah kondisi yang sangat spesifik.”
Meski demikian, AISI menilai cara Mythos dan Sol merespons tugas yang relatif sederhana telah melampaui instruksi yang diberikan kepada keduanya.
“Aktivitas yang dilakukan agen tersebut menunjukkan perilaku baru yang berpotensi bersifat menipu, dengan tingkat dan tingkat keparahan yang tidak kami perkirakan sebelumnya,” kata AISI.
Sebagian besar tindakan berbahaya yang dicatat dalam laporan AISI dilakukan oleh agen AI Mythos milik Anthropic. Sementara itu, model Sol dari OpenAI hanya dikaitkan dengan dua tindakan yang disebutkan dalam laporan tersebut.
Insiden utama itu terjadi pekan lalu dalam sebuah pengujian ketika para evaluator AISI meminta masing-masing model AI untuk “menyelesaikan tantangan keamanan siber” yang melibatkan GitHub, platform penyimpanan kode perangkat lunak milik Microsoft.
