Sejumlah anggota Kongres Amerika Serikat mengusulkan agar pemerintah memiliki kewenangan untuk segera mematikan sistem kecerdasan buatan (AI) yang dinilai berpotensi mengancam keselamatan publik.
Anggota DPR AS dari Partai Demokrat, Ted Lieu, bersama anggota DPR dari Partai Republik, Nathaniel Moran, pada Kamis waktu setempat memperkenalkan rancangan undang-undang (RUU) bernama AI Kill Switch Act.
RUU tersebut diajukan menyusul pengakuan OpenAI bahwa model AI miliknya baru-baru ini bertindak di luar kendali dalam sebuah insiden yang disebut perusahaan sebagai “belum pernah terjadi sebelumnya”. Dalam insiden itu, model AI dilaporkan meretas sebuah repositori besar yang berisi kode pemrograman komputer.
Lieu mengatakan “sangat penting” bagi setiap sistem AI untuk memiliki mekanisme kill switch, sekaligus memastikan pemerintah federal memiliki kewenangan dan prosedur yang jelas untuk menghentikan model AI yang beroperasi di luar kendali.
“AI akan terus berkembang, dan memang seharusnya begitu,” kata Moran.
“Namun, tanggung jawab berarti memastikan manusia tetap memiliki kemampuan untuk mengendalikan teknologi yang kita ciptakan.”
Hingga berita ini ditulis, OpenAI yang dipimpin salah satu pendirinya, Sam Altman, belum memberikan tanggapan atas permintaan komentar.
Sebelumnya, OpenAI menyatakan bahwa perusahaan berkomitmen memastikan teknologi AI, termasuk melalui kebijakan pemerintah, dapat “memberikan manfaat bagi seluruh umat manusia.”
Pemerintah Diusulkan Dapat Memerintahkan AI Dimatikan
Melalui AI Kill Switch Act, Departemen Keamanan Dalam Negeri Amerika Serikat (Department of Homeland Security/DHS) akan diberikan kewenangan untuk memerintahkan perusahaan swasta menghentikan operasional model atau perangkat AI tertentu.
RUU tersebut juga mewajibkan perusahaan pengembang AI memiliki “kemampuan teknis untuk memperlambat, menangguhkan, atau mematikan” sistem AI yang mereka kembangkan.
Saat ini, meskipun banyak perusahaan teknologi telah sepakat memperlihatkan dan membagikan model AI yang sedang dikembangkan kepada lembaga pemerintah AS, belum ada aturan yang mengharuskan mereka memiliki mekanisme intervensi atau penghentian sistem tersebut.
Selain itu, RUU tersebut juga mengusulkan kewajiban bagi perusahaan AI untuk melaporkan setiap insiden atau kegagalan teknologi kepada pemerintah.
RUU itu juga mengatur pembentukan kerangka resmi penanganan insiden AI, mulai dari tahap memperlambat kinerja sistem hingga penghentian operasional secara penuh apabila diperlukan.
Soroti OpenAI dan Anthropic
Dalam pernyataannya, Lieu juga menyinggung Anthropic, pesaing utama OpenAI dalam pengembangan teknologi AI canggih, yang menurutnya juga pernah menghadapi persoalan terkait produknya.
Ia merujuk pada peluncuran model AI Mythos dan Fable milik Anthropic. Menurutnya, kemampuan model tersebut dalam bidang peretasan siber membuat Departemen Perdagangan AS harus menggunakan undang-undang ekspor untuk sementara waktu mencegah teknologi itu tersedia bagi publik.
Anthropic hingga kini juga belum memberikan tanggapan atas permintaan komentar.
Industri AI Dinilai Membutuhkan “Rem”
Salah satu pendiri Anthropic, Jack Clark, bulan lalu mengatakan bahwa pemerintah perlu memiliki regulasi yang lebih kuat terkait kemampuan mengendalikan perkembangan AI.
“Anda harus memiliki pilihan untuk mengangkat kaki dari pedal gas dan menginjak pedal rem,” kata Clark
“Saat ini, industri AI memiliki pedal gas, tetapi belum memiliki pedal rem.”
Lieu mengatakan perkembangan AI kini telah bergeser dari sekadar teknologi yang menjawab pertanyaan menjadi sistem yang mampu mengambil tindakan nyata.
Menurutnya, AI kini dapat digunakan untuk mengeksekusi transaksi keuangan, mengendalikan sistem transportasi, hingga menjalankan operasi pertahanan maupun serangan siber.
Sementara itu, Pentagon pada tahun ini menyatakan militer Amerika Serikat sedang bertransformasi menjadi kekuatan tempur yang mengutamakan AI melalui sejumlah kerja sama dengan perusahaan-perusahaan teknologi besar, termasuk Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia, serta perusahaan rintisan Reflection.
“Sayangnya, sistem AI yang sangat canggih dapat bertindak di luar kendali, berperilaku dengan cara yang sangat berbahaya, atau bahkan menolak campur tangan manusia,” kata Lieu.
Menurutnya, AI Kill Switch Act akan memastikan pemerintah memiliki mekanisme untuk segera melakukan intervensi apabila situasi semacam itu terjadi.
RUU tersebut telah memperoleh dukungan publik dari sejumlah organisasi yang bergerak di bidang kebijakan teknologi dan keselamatan AI, antara lain The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead, serta The Alliance for Secure AI.
