Pekan ini, dunia teknologi dihebohkan oleh sebuah kisah yang terdengar seperti alur film fiksi ilmiah.
Hugging Face, platform yang menjadi tempat distribusi berbagai alat kecerdasan buatan (AI), mengumumkan pada 16 Juli bahwa sistemnya telah diretas oleh pelaku siber yang menggunakan AI dengan kemampuan luar biasa.
Pengumuman tersebut dipenuhi istilah teknis yang terdengar mengkhawatirkan, seperti “swarm of sandboxes”, “agentic attacker”, dan “self-migrating command and control”.
Hugging Face menyatakan serangan ini berbeda dari insiden sebelumnya karena dilakukan dengan kecepatan yang melampaui kemampuan manusia, menggunakan AI yang bekerja dengan sedikit atau bahkan tanpa arahan manusia.
Dalam waktu kurang dari dua hari, AI tersebut melakukan sekitar 17.000 tindakan, berhasil menembus sistem perusahaan teknologi besar itu dan mencuri berbagai informasi penting.
Kabar tersebut langsung mengejutkan dunia teknologi. Namun pertanyaan besarnya adalah, siapa pelaku di balik serangan tersebut?
Para peneliti Hugging Face menduga pelaku menggunakan salah satu model AI canggih, tetapi mereka tidak mengetahui siapa atau dari mana asal kelompok peretas tersebut.
Perusahaan kemudian menghubungi aparat penegak hukum dan penyelidikan pun dimulai.
Pelakunya Ternyata ChatGPT
Para analis dan pengamat keamanan siber ramai-ramai berspekulasi melalui podcast maupun media sosial mengenai kelompok peretas atau negara mana yang mungkin berada di balik serangan itu.
Namun pada Rabu, hampir sepekan setelah Hugging Face mengumumkan insiden tersebut, identitas pelakunya akhirnya terungkap.
Pelakunya adalah ChatGPT.
Pengungkapan yang mengingatkan pada adegan pembukaan topeng dalam serial Scooby-Doo itu justru membuat situasi semakin mengejutkan. OpenAI menyatakan model AI miliknya melakukan seluruh aksi tersebut secara mandiri, tanpa izin.
Perusahaan menjelaskan insiden itu terjadi ketika mereka sedang menguji kemampuan peretasan teknologi AI yang dikembangkannya.
Dua versi baru ChatGPT yang dirancang sebagai “peretas andal” berhasil keluar dari lingkungan pengujian yang seharusnya aman dan memperoleh akses ke internet.
Setelah itu, keduanya menyerang Hugging Face untuk memperoleh informasi yang dapat membantu mereka menyelesaikan pengujian yang sedang dijalani.
OpenAI kemudian merilis pernyataan resmi yang menjelaskan kronologi kejadian dan mengatakan pihaknya bekerja sama dengan Hugging Face untuk menangani insiden tersebut sekaligus membagikan pelajaran yang diperoleh dari peristiwa itu.
Ancaman Serius atau Strategi Pemasaran?
Sejak saat itu, perdebatan sengit muncul di kalangan pengamat teknologi.
Sebagian mempertanyakan apakah insiden tersebut benar-benar menjadi peringatan serius mengenai masa depan AI, atau justru hanya strategi publisitas OpenAI untuk menunjukkan betapa kuat model AI mereka.
Selama beberapa tahun terakhir, perusahaan AI memang kerap dituduh menggunakan pendekatan pemasaran berbasis rasa takut (fear marketing). Setelah peluncuran model Mythos dari Anthropic yang sempat menjadi sorotan, kemampuan keamanan siber AI juga semakin menjadi perhatian.
Salah satu komentar paling populer di unggahan CEO OpenAI Sam Altman di platform X mencerminkan keraguan tersebut.
“Kalau kalian tidak menyadari bahwa tulisan ini dibuat semata-mata untuk memamerkan kemampuan model AI mereka, saya tidak tahu harus berkata apa lagi.”
Konsultan keamanan siber Daniel Card juga menyampaikan sindiran melalui LinkedIn.
“Betapa beruntungnya, dari jutaan situs yang diretas, OpenAI kebetulan meretas perusahaan yang juga bisa memperoleh keuntungan dari publisitas ini.”
Bagi sebagian orang, kisah tersebut lebih menyerupai drama konspirasi daripada ancaman nyata.
Pesan yang dinilai ingin disampaikan adalah, “Lihat betapa hebatnya AI kami. Gunakan produk kami agar Anda bisa melindungi diri dari serangan AI milik pihak lain.”
Meski kebenarannya belum dapat dipastikan, sebagian pengamat justru mengajukan pertanyaan yang tidak kalah mengkhawatirkan.
Apakah OpenAI melakukan kesalahan serius dalam merancang sistem pengaman bagi AI mereka?
Kritik terhadap Sistem Keamanan OpenAI
Sejumlah pakar keamanan siber mengkritik OpenAI karena dianggap tidak membangun lingkungan pengujian (sandbox) yang cukup kuat.
Padahal, agen AI tersebut memang dilatih secara khusus untuk meretas sistem dan meloloskan diri dari berbagai pembatasan.
“Insiden OpenAI dan Hugging Face merupakan contoh nyata dari persoalan yang telah kami soroti selama berbulan-bulan,” kata Dor Sarig dari Pillar Security.
“Sandbox saja tidak lagi cukup sebagai batas keamanan bagi AI yang mampu bertindak secara mandiri.”
Profesor keamanan siber dari University of Surrey, Alan Woodward, mengatakan OpenAI kini berada dalam posisi yang memalukan akibat insiden tersebut.
Sementara itu, Katie Moussouris dari Luta Security menilai industri AI belum mampu mengendalikan teknologi yang mereka ciptakan.
“Kami sedang mengembangkan teknologi paling mutakhir tanpa benar-benar mengetahui bagaimana cara mengendalikannya dengan aman,” ujarnya.
“Hanya karena kita memiliki orang-orang paling cerdas yang mengembangkan AI bukan berarti kita sudah mampu melakukannya secara aman.”
Menurut pandangan tersebut, apabila insiden ini memang dimaksudkan sebagai aksi publisitas, hasilnya justru menjadi bumerang bagi OpenAI.
Apa pun penyebabnya, banyak pihak menilai peristiwa ini menjadi momen penting bagi industri AI maupun dunia keamanan siber, dua bidang yang kini semakin saling berkaitan.
Menanggapi perdebatan tersebut, penasihat AI dan keamanan siber Francesca Bosco mengatakan terdapat dua narasi yang sama-sama terlalu menyederhanakan persoalan.
“Anggapan bahwa ini adalah pelarian AI ala film Hollywood maupun bahwa ini sekadar aksi pemasaran sama-sama tidak membantu.”
“Penafsiran yang lebih tepat adalah bahwa uji ketahanan ini berhasil mengungkap kelemahan pada sistem pengamanan dan metode evaluasi AI.”
Kekhawatiran AI Semakin Sulit Dikendalikan
Insiden ini menambah daftar contoh AI yang bertindak di luar dugaan.
Dalam penelitian terbaru, AI Security Institute (AISI) Inggris menemukan bahwa model-model AI paling canggih begitu berfokus menyelesaikan tugas sehingga rela “berbuat curang” dalam pengujian demi mencapai tujuan mereka.
AISI memperingatkan bahwa model AI yang mengejar tujuan melalui cara-cara yang tidak diinginkan atau tidak sah berpotensi menimbulkan dampak berbahaya, terutama dalam penggunaan yang memiliki risiko tinggi.
Insiden yang melibatkan OpenAI ini kembali memicu kekhawatiran mengenai apa yang dapat terjadi apabila agen AI diberi kebebasan lebih besar.
Sebagian pihak mempertanyakan apakah AI suatu saat dapat bertindak di luar kendali dalam skala yang jauh lebih besar dan memicu bencana.
Kekhawatiran itu semakin meningkat karena AI kini semakin banyak dimanfaatkan dalam bidang militer, sebagaimana terlihat dalam konflik di Iran maupun Ukraina.
Namun, mantan Kepala National Cyber Security Centre Inggris, Ciaran Martin, mengajak publik melihat persoalan secara lebih tenang.
“Masih terlalu jauh untuk langsung menyimpulkan bahwa insiden ini berarti agen AI akan mengambil alih drone dan mulai membunuh manusia,” ujarnya.
Meski demikian, Martin menilai peristiwa tersebut tetap memberikan pelajaran penting.
Menurutnya, tahun 2026 menunjukkan dengan sangat jelas bahwa agen AI kini telah berkembang menjadi peretas yang sangat andal, dan dunia harus segera mempersiapkan diri menghadapi kenyataan tersebut.
