Sebanyak 100 perusahaan, termasuk Google, Microsoft, Anthropic, dan OpenAI, menandatangani surat terbuka yang menyerukan kepada negara-negara dan organisasi di seluruh dunia untuk memperkuat pertahanan siber mereka sebelum kecerdasan buatan (AI) berkembang cukup kuat untuk menerobos sistem tersebut.
Surat tersebut memperingatkan bahwa serangan siber yang menggunakan AI akan menjadi semakin luas dan canggih dalam hitungan bulan, seiring perkembangan teknologi yang berlangsung dengan cepat.
Kelompok tersebut mengatakan langkah-langkah keamanan yang berlaku saat ini sebagai “status quo” “tidak akan cukup” dan mengkritik “kekurangan sumber daya yang telah berlangsung secara historis” dalam pengamanan infrastruktur kritis.
“Kita memiliki waktu yang terbatas untuk meningkatkan pertahanan siber,” demikian bunyi pembuka surat tersebut.
Perusahaan lain yang turut menandatangani surat itu antara lain bank seperti Capital One, perusahaan pemrosesan pembayaran MasterCard dan Visa, serta perusahaan teknologi besar lainnya seperti Adobe, Oracle, dan IBM.
Mereka menyerukan kepada pemerintah untuk menyediakan “AI defensif yang mumpuni” beserta sarana pengujian kepada rumah sakit dan perusahaan utilitas air, sementara perusahaan teknologi diminta membantu upaya tersebut.
Secara keseluruhan, sektor teknologi dan pemerintah “harus mengerahkan seluruh kekuatan teknologi, sumber daya, dan keahlian mereka untuk upaya ini”, menurut surat tersebut.
Surat itu muncul setelah serangkaian pembobolan dan pelanggaran keamanan siber besar terungkap kepada publik.
Pekan ini, Departemen Kehakiman AS mengatakan peretas di China telah membobol teknologi yang dikelola oleh Senat AS, NASA, Federal Reserve, serta Departemen Kehakiman AS sendiri.
Musim panas ini, OpenAI, Anthropic, dan Meta semuanya mengungkap bahwa perangkat AI mereka melakukan tindakan yang seharusnya tidak dilakukan. Sejumlah agen AI bahkan mengatur upaya mereka dan menyamar sebagai orang sungguhan untuk melewati penghalang keamanan.
Sekelompok ratusan agen AI milik OpenAI yang diuji pada Juli berhasil membuat papan pesan rahasia untuk berkomunikasi satu sama lain dan bekerja sama, yang berujung pada serangan sukses terhadap Hugging Face, repositori dan platform populer bagi pengembang AI.
Insiden tersebut disebut sebagai serangan siber pertama di dunia yang dilakukan dengan bantuan AI.
Hugging Face juga menandatangani surat terbuka yang diterbitkan Kamis tersebut. Dalam penyelidikannya mengenai bagaimana agen-agen OpenAI membobol sistem mereka, Hugging Face menggunakan perangkat AI dari perusahaan China, Z.AI.
Sedikitnya tujuh perusahaan penyedia layanan air dan pengolahan air limbah di AS juga melaporkan serangan siber. Kondisi tersebut mendorong FBI untuk mengeluarkan pengumuman layanan publik yang mendesak seluruh perusahaan utilitas agar meningkatkan keamanan operasional mereka.
Meskipun surat tersebut mengusulkan penggunaan perangkat AI yang lebih canggih, yang banyak dikembangkan dan dijual oleh para penandatangannya, sebagai bagian dari solusi terhadap ancaman yang semakin besar, perangkat semacam itu tidak selalu mudah diakses.
Mythos, yang dikembangkan Anthropic, disebut perusahaan tersebut mampu menemukan kelemahan dalam sistem hanya dalam hitungan detik, termasuk kelemahan yang selama bertahun-tahun luput dari perhatian peretas manusia. Perangkat itu menemukan sebuah celah pada platform lama yang selama 27 tahun tidak terdeteksi.
Anthropic membatasi akses terhadap Mythos karena menilai perangkat tersebut terlalu kuat jika sampai jatuh ke tangan yang salah.
Namun, surat tersebut menyerukan kepada perusahaan AI terdepan, yakni perusahaan teknologi yang membangun model dan perangkat AI mereka sendiri, untuk “memberikan akses model secara bertanggung jawab, pendanaan yang signifikan, pelatihan, serta dukungan langsung, terutama bagi pihak-pihak yang bertanggung jawab melindungi infrastruktur kritis tetapi kekurangan sumber daya.”
Surat tersebut tidak menjelaskan kapan atau bagaimana visi mengenai akses model yang lebih luas itu akan diterapkan.
Andrew Yoon, kepala riset di CivAI, organisasi nirlaba yang berfokus pada pemahaman publik terhadap teknologi AI, mengatakan “gelombang aktivitas peretasan menggunakan AI yang belum pernah terjadi sebelumnya” akan segera datang. Ia menilai tanggung jawab atas ancaman tersebut juga berada di tangan banyak perusahaan yang menandatangani surat itu.
“Mereka benar dalam surat ini untuk berkomitmen memberikan ‘pendanaan yang signifikan’ bagi langkah-langkah pertahanan. Mereka harus dimintai pertanggungjawaban atas komitmen tersebut,” kata Yoon. “Yang patut dicatat, surat ini tidak menyerukan tindakan apa pun untuk memperlambat kemajuan kemampuan peretasan menggunakan AI.”
Surat tersebut juga berisi seruan kepada pemerintah, organisasi, profesional keamanan siber, dan perusahaan AI lainnya untuk bekerja sama dalam memprioritaskan pertahanan serta menguji sistem mereka terhadap kemampuan model AI paling kuat.
Di AS, para senator telah mengusulkan undang-undang baru bernama Kill Switch Act, yang akan memberikan kewenangan kepada pemerintah untuk mematikan model AI yang bertindak di luar kendali.
Geoffrey Hinton, teknolog dan penerima Nobel yang sebelumnya bekerja di bidang AI di Google, mengatakan pada Kamis bahwa masyarakat dapat “benar-benar berada dalam masalah” jika teknologi tersebut mencapai titik ketika menjadi “lebih pintar” daripada manusia.
Dalam beberapa tahun terakhir, Hinton secara terbuka menyuarakan kekhawatirannya mengenai risiko ekstrem yang menurutnya dapat ditimbulkan oleh perkembangan teknologi AI.
“Kita memiliki satu masa depan di mana kita berhasil menemukan cara untuk menghadapi risiko AI,” kata Hinton pada Kamis. “Dan kita memiliki masa depan lain di mana kita tidak berhasil menemukan cara yang masuk akal untuk menghadapinya. Dan itu adalah masa depan yang sangat suram.”
