OpenAI memastikan tidak akan merilis model kecerdasan buatan (AI) terbarunya, GPT-6.1 Astra, karena kekhawatiran terkait keamanan.
Sistem AI tersebut dirancang untuk menjalankan tugas seperti menjelajah internet dan menggunakan aplikasi secara mandiri. Namun, model itu “belum memenuhi standar yang ditetapkan”, kata Saachi Jain, kepala sistem keamanan OpenAI.
Pada Selasa, OpenAI juga merilis pembaruan mengenai sejumlah insiden yang terjadi pada Juni, tetapi baru diumumkan kepada publik pekan lalu. Dalam insiden tersebut, model AI perusahaan mengakses situs web dan sistem pemerintah Australia tanpa izin.
Insiden tersebut, bersama pelanggaran serupa yang dilakukan model AI dari sejumlah perusahaan teknologi besar, dalam beberapa pekan terakhir semakin memperkuat perdebatan mengenai risiko yang ditimbulkan teknologi tersebut.
Dalam beberapa pekan terakhir, sejumlah pemimpin perusahaan AI, termasuk Sam Altman dari OpenAI dan Dario Amodei dari Anthropic, mendesak industri untuk memperlambat laju pengembangan karena kekhawatiran terhadap risiko yang berkaitan dengan teknologi tersebut.
Keputusan OpenAI, yang pertama kali dilaporkan Wall Street Journal, menjadi salah satu contoh langka ketika pengembang AI besar membatalkan peluncuran produk baru karena alasan keamanan.
Model terbaru tersebut dinilai belum memenuhi standar dalam hal “tetap berada dalam lingkup dan kewenangan yang diberikan, serta bagaimana model mengomunikasikan kepada pengguna mengenai jenis pekerjaan yang telah dilakukannya”, kata Jain.
“Kami ingin memastikan pengembangan model kami aman, baik ketika dilakukan di dalam perusahaan maupun ketika model tersebut kami kirimkan kepada pengguna. Namun, ketika kami merilisnya kepada pengguna, kami menerapkan standar yang sangat tinggi dalam hal keamanan dan keselarasan,” tambahnya.
Model unggulan GPT-6 Astra yang bersifat agentic diluncurkan pada September dan memiliki kemampuan khusus untuk melakukan penalaran kompleks serta menjalankan tugas secara mandiri. OpenAI mengatakan model tersebut merupakan hasil dari “bertahun-tahun penelitian dan investasi besar”.
Pengumuman tersebut disampaikan sehari sebelum OpenAI menggelar konferensi pengembang tahunan DevDay di San Francisco, yang diperkirakan akan menjadi ajang bagi perusahaan untuk mengumumkan sejumlah perkembangan baru. Belum diketahui apakah versi baru Astra akan menjadi salah satu pengumuman tersebut.
Sistem keamanan perusahaan menjadi sorotan tajam setelah sejumlah insiden besar yang melibatkan teknologi OpenAI.
Insiden Australia
Pekan lalu, Perdana Menteri Australia Anthony Albanese mengumumkan bahwa agen OpenAI yang menyimpang telah meretas situs web dan sistem pemerintah Australia pada Juni. Para ahli menyebutnya sebagai kasus pertama yang diketahui terjadi di dunia.
Albanese mengkritik OpenAI karena memberi tahu pemerintah Australia melalui alamat email umum, alih-alih menghubungi pejabat secara langsung.
Dalam pernyataan pada Selasa, OpenAI meminta maaf atas insiden tersebut dan mengakui bahwa perusahaan “seharusnya menangani respons kami dengan lebih baik”.
OpenAI mengklarifikasi bahwa Services Australia, NSW Bureau of Crime Statistics and Research, Victorian Department of Health, serta Australian Institute of Health and Welfare semuanya terdampak.
Perusahaan mengatakan telah memulai penyelidikan segera setelah mengetahui insiden tersebut pada pertengahan Agustus dan memberi tahu organisasi-organisasi yang terdampak antara 10 dan 24 September.
“Tujuan kami adalah memberikan penjelasan terperinci kepada lembaga-lembaga yang terdampak setelah penyelidikan kami selesai,” kata OpenAI. Namun, perusahaan mengakui seharusnya membagikan temuan awal dengan lebih cepat dan terus memberikan informasi terbaru kepada otoritas Australia.
Agen OpenAI ‘menyusup’ ke situs pemerintah Australia dalam kasus pertama di dunia
Bot OpenAI mengakses sejumlah situs lembaga pemerintah AS
OpenAI menambahkan bahwa perusahaan akan mengembangkan “pendekatan praktis” mengenai cara pengembang dan pemerintah mengidentifikasi serta mengungkapkan insiden AI yang terjadi di masa depan.
Perusahaan juga akan mendanai langkah-langkah keamanan siber, menyediakan dukungan khusus bagi lembaga yang terdampak, serta membentuk satuan tugas untuk mengelola risiko dari agen AI yang semakin canggih.
OpenAI juga mengatakan salah satu eksekutif seniornya akan berada di Australia untuk menghadiri sidang Joint Select Committee mengenai AI pada 6 Oktober.
Pada Juli, OpenAI mengatakan sistem AI mereka telah mengakses internet dan meretas Hugging Face, pusat pengembangan sumber terbuka untuk para pengembang. Insiden tersebut mendorong para peneliti dan pejabat menyerukan pengawasan yang lebih ketat terhadap teknologi tersebut.
Kekhawatiran harus ‘ditanggapi serius’
Pada Senin, raksasa cip AI Nvidia merilis serangkaian perangkat lunak keamanan untuk platform AI otonom, yang disebut agen. Menurut Nvidia, perangkat tersebut dapat mencegah peretasan terhadap Hugging Face.
Salah satu perangkat baru tersebut memanfaatkan fitur perangkat keras pada cip Nvidia untuk membatasi ruang gerak agen AI.
CEO Nvidia Jensen Huang selama ini banyak menepis seruan untuk memperketat regulasi AI. Ia berpendapat bahwa agen AI yang menyimpang merupakan persoalan rekayasa teknologi yang dapat diselesaikan.
Nvidia sebelumnya sepakat mengakuisisi Hugging Face senilai US$12,9 miliar (sekitar Rp205 triliun) pada awal bulan ini.
Paus Leo XIV pada Senin, dalam kunjungannya ke Prancis, mengatakan teknologi tersebut “harus ditanggapi secara serius” dan menyatakan keraguan terhadap pandangan Huang.
Paus mengatakan dirinya telah membaca bahwa CEO Nvidia mengumumkan adanya cara untuk memasang pembatas keamanan pada model AI tertentu.
“Namun, orang yang sama juga mengatakan bahwa tidak boleh ada batasan dan tidak boleh ada regulasi pemerintah,” kata Paus.
“Ini adalah persoalan yang menurut saya perlu kita duduk bersama dan membicarakannya,” tambah Paus Leo, yang sebelumnya memperingatkan mengenai risiko “kehilangan kemanusiaan kita” akibat mesin.
Presiden AS Donald Trump dan Ketua DPR AS Mike Johnson dijadwalkan menjamu para eksekutif perusahaan teknologi di Gedung Putih pada Selasa untuk membahas regulasi AI.
Trump selama ini mengecilkan kekhawatiran mengenai risiko AI dan menyebutnya sebagai “hoaks”. Ia berpendapat bahwa AS telah memiliki undang-undang yang memadai dan satu-satunya “pembatas keamanan” yang dibutuhkan teknologi tersebut adalah seorang presiden yang “kuat dan cerdas”.
