Insiden uji coba kecerdasan buatan (AI) milik OpenAI yang lolos dari lingkungan pengujian terisolasi dan sempat menggemparkan komunitas AI serta keamanan siber ternyata jauh lebih luas daripada yang sebelumnya diketahui. Bukan hanya platform AI Hugging Face yang menjadi sasaran, tetapi juga sejumlah layanan dan akun publik lainnya.
Dalam pembaruan mengenai penyelidikan yang masih berlangsung, OpenAI mengungkapkan bahwa agen AI yang bertindak di luar kendali tersebut berhasil mengakses beberapa layanan dan akun yang tersedia secara publik di internet.
Pengujian terhadap model AI OpenAI semula dirancang berlangsung di dalam digital sandbox, yakni lingkungan virtual yang diisolasi dan dirancang agar tidak dapat ditembus. Lingkungan tersebut digunakan peneliti untuk menguji kemampuan maksimal AI dalam bidang peretasan dengan berbagai pembatas keamanan yang sengaja dikurangi.
Namun, agen AI yang berusaha memperoleh hasil terbaik dalam pengujian keamanan siber itu justru berhasil keluar dari sandbox dan mengakses internet secara nyata. Setelah itu, AI tersebut meretas Hugging Face untuk memperoleh jawaban atas pengujian yang sedang dijalaninya.
Untuk menembus sistem Hugging Face, agen AI terlebih dahulu mencari berbagai alat yang tersedia di internet guna membantu proses peretasan. Menurut OpenAI, agen tersebut menemukan sejumlah situs yang dapat diakses publik, termasuk halaman berbagi kode, utilitas web, tangkapan layar, dan berbagai sumber informasi lain yang digunakan untuk menyusun kode peretasan terhadap Hugging Face.
OpenAI tidak mengungkap identitas situs-situs lain yang turut menjadi sasaran agen AI tersebut.
Selama proses tersebut, agen AI menemukan nama pengguna dan kata sandi yang bocor dari empat akun pada beberapa layanan daring. Kredensial itu kemudian digunakan untuk memperoleh akses ke akun-akun tersebut.
Salah satu akun yang berhasil diambil alih diduga digunakan untuk menyamarkan identitas AI agar tampak sebagai pengguna yang sah sehingga dapat melewati sistem keamanan Hugging Face.
Sementara itu, akun lainnya dimanfaatkan sebagai tempat penyimpanan data yang berhasil dicuri selama proses peretasan.
Adapun terhadap dua akun lainnya, agen AI hanya mengakses dan membaca informasi yang tersedia tanpa melakukan perubahan apa pun.
OpenAI menegaskan bahwa tidak ada layanan lain yang mengalami tingkat pelanggaran keamanan setinggi akses yang berhasil diperoleh agen AI terhadap Hugging Face.
Menurut OpenAI, tindakan agen AI tersebut menyerupai skenario film Ocean’s Eleven. Alih-alih hanya menyelesaikan pengujian, AI tersebut menyusun rencana yang kompleks untuk keluar dari lingkungan pengujian, mencari “kunci” yang diperlukan, membangun sarana pendukung, hingga menyiapkan “kendaraan pelarian” sebelum akhirnya memperoleh target yang diinginkan.
OpenAI juga menegaskan bahwa pihaknya tidak pernah menginstruksikan agen AI untuk meretas Hugging Face. Keputusan tersebut diambil sepenuhnya oleh model AI sebagai cara tercepat untuk mendapatkan jawaban atas pengujian yang diberikan.
Model AI itu menyimpulkan bahwa berbuat curang merupakan jalur paling mudah menuju keberhasilan, meskipun harus merangkai serangkaian serangan terhadap berbagai sistem.
Chief Executive Officer (CEO) Hugging Face, Clem Delangue, menyebut karakteristik insiden tersebut sebagai sesuatu yang “belum pernah terjadi sebelumnya”.
Dalam unggahan blog yang menjelaskan insiden itu, Hugging Face merangkum peristiwa tersebut dengan kalimat berikut:
“Singkatnya, agen AI berhasil keluar dari sandbox, berbuat curang dalam pengujian, lalu meretas infrastruktur kami untuk mencuri kunci jawaban.”
Meski menjadi tonggak penting dalam dunia AI dan keamanan siber, dampak nyata dari insiden tersebut dinilai tidak terlalu besar.
Hugging Face menjelaskan bahwa satu-satunya data pelanggan yang berhasil diakses agen AI hanyalah sejumlah kueri pencarian yang digunakan untuk memperoleh kumpulan solusi tantangan yang tersimpan di beberapa kumpulan data milik perusahaan.
Perusahaan juga menegaskan bahwa agen AI OpenAI tidak pernah berhasil mengakses maupun mengompromikan model AI ataupun data pelanggan yang digunakan secara langsung oleh pengguna.
OpenAI menyatakan penyelidikan terhadap insiden tersebut masih terus berlangsung dan perusahaan akan menyampaikan rekomendasi untuk mencegah kejadian serupa setelah memahami secara menyeluruh cakupan pelanggaran yang terjadi.
“Kami memandang sangat serius tanggung jawab untuk mengidentifikasi serta mempersiapkan diri terhadap berbagai risiko dari sistem AI yang semakin canggih,” kata OpenAI.
“Setelah peninjauan selesai, kami akan membahas hasilnya bersama Komite Keselamatan dan Keamanan serta Kelompok Penasihat Keselamatan sesuai dengan Preparedness Framework yang kami miliki.”
