Sistem “kill switch” atau mekanisme penghentian kecerdasan buatan (AI) yang dapat diperiksa oleh pihak ketiga mungkin perlu diwajibkan bagi perusahaan pengembang AI, kata salah satu pendiri perusahaan AI terbesar di dunia
Jack Clark, satu dari tujuh pendiri Anthropic, mengatakan masyarakat mungkin pada akhirnya perlu membuat aturan yang mewajibkan tersedianya cara untuk mematikan perangkat lunak AI sepenuhnya jika teknologi tersebut menjadi terlalu berbahaya.
Clark mengatakan “sebagian besar laboratorium AI memiliki cara berbeda untuk menghentikan sistem mereka”, termasuk Anthropic. Namun, ia menilai pembuat undang-undang mungkin perlu mewajibkan perusahaan memiliki mekanisme tersebut.
Perkembangan AI yang sangat cepat serta kekhawatiran mengenai risiko yang ditimbulkannya bagi umat manusia menjadi sorotan setelah sejumlah eksekutif dan staf perusahaan AI mengeluarkan peringatan.
Beberapa pihak secara terbuka mengatakan ada kemungkinan teknologi tersebut, jika tidak dikendalikan, dapat membunuh seluruh manusia.
CEO Anthropic Dario Amodei pada akhir pekan lalu menyerukan agar laju pengembangan AI diperlambat dan diawasi secara lebih ketat. Sikap tersebut sebelumnya juga pernah disampaikan perusahaan, meski sejumlah pihak mempertanyakan motif di balik seruan tersebut.
Amodei menambahkan bahwa setiap langkah untuk membatasi pengembangan AI harus dilakukan “tanpa mengorbankan keunggulan komersial”.
Staf AI “Benar-Benar Takut” terhadap Masa Depan Umat Manusia
Clark mengatakan bahwa rincian mengenai persyaratan “kill switch” dan mekanisme verifikasinya harus menjadi bagian dari “pembicaraan kebijakan yang lebih luas” mengenai AI.
“Apakah perusahaan harus diwajibkan untuk benar-benar memiliki kill switch? Apakah kill switch tersebut dapat diverifikasi oleh pihak ketiga?” ujarnya.
“Saya pikir itulah hal yang ingin diketahui masyarakat dan mungkin pada akhirnya ingin mereka atur melalui peraturan.”
Anthropic, yang didirikan pada 2021 oleh sekelompok mantan karyawan pesaingnya, OpenAI, saat ini berada di pusat perdebatan mengenai keselamatan AI.
Pekan lalu, unggahan seorang peneliti AI yang meninggalkan Anthropic karena khawatir AI dapat memusnahkan umat manusia menjadi viral.
Sebagai tanggapan, ilmuwan Anthropic Evan Hubinger mengatakan bahwa secara pribadi ia menilai kemungkinan kepunahan manusia akibat AI mencapai “lebih dari 10 persen dalam dekade berikutnya”.
Ilmuwan komputer sekaligus peraih Hadiah Nobel Geoffrey Hinton, yang dikenal sebagai “Godfather of AI”, mengatakan pada Jumat bahwa kemungkinan 10 persen AI membunuh seluruh manusia “bukanlah angka yang tidak masuk akal”.
Ia dan sejumlah tokoh lain yang memiliki kekhawatiran serupa mengatakan AI berpotensi melakukan hal itu dengan mengambil alih sistem-sistem penting yang terhubung ke internet dan menggunakannya untuk menyerang manusia.
Namun, sebagian kalangan di industri AI menilai kekhawatiran bahwa teknologi tersebut dapat menghancurkan umat manusia telah dibesar-besarkan atau bahkan sengaja dimanfaatkan untuk menciptakan sensasi.
Clement Delangue, pemimpin platform pengembang Hugging Face yang sempat diretas oleh bot OpenAI, mengatakan pekan lalu: “Maaf, tetapi bertanya kepada Jacob Coxon tentang risiko kepunahan akibat AI sama seperti bertanya kepada teknisi AC tentang perubahan iklim.”
“Bukan berarti hal itu tidak menarik atau pasti salah, tetapi mari kita tetap menempatkannya dalam perspektif.”
George Arison, pemimpin Grindr, mengatakan kekhawatiran yang berkembang mengenai perangkat AI dimanfaatkan oleh perusahaan-perusahaan tersebut untuk mendukung rencana bisnis mereka.
Anthropic, yang terakhir kali dinilai senilai US$965 miliar (sekitar Rp15,9 kuadriliun), tengah mempersiapkan penawaran saham perdana atau initial public offering (IPO), yang memungkinkan masyarakat membeli saham perusahaan tersebut.
OpenAI, yang terakhir kali dinilai senilai US$852 miliar (sekitar Rp14,0 kuadriliun), sebelumnya diperkirakan akan melakukan hal serupa. Namun, CEO OpenAI Sam Altman mengatakan pada Jumat bahwa langkah tersebut tidak akan dilakukan tahun ini karena perdebatan yang sedang berlangsung mengenai keselamatan AI.
Arison mengatakan: “Satu-satunya cara untuk membenarkan valuasi seperti ini adalah dengan benar-benar mengatakan: ‘Saya akan mengambil alih setiap industri dan saya akan mengambil alih setiap pekerjaan, dan AI saya akan melakukan semua pekerjaan itu.’”
Ketika ditanya berapa persentase kemungkinan semua manusia dibunuh oleh AI, Clark mengatakan: “Saya tidak berpikir statistik seperti itu terlalu berguna.” Namun, ia menambahkan bahwa membiarkan AI terus berkembang sebagai “industri yang sepenuhnya tidak diatur” merupakan langkah yang buruk.
“Kita sedang melempar dadu dengan risiko yang sangat besar,” kata Clark. “Dan intinya adalah, kita harus mengubah arah industri ini.”
Pemerintah AS Dorong Regulasi, Trump Tolak Perlambatan AI
Sejumlah anggota parlemen Amerika Serikat telah mengajukan rancangan undang-undang yang dijuluki Kill Switch Act. Aturan tersebut akan mewajibkan perusahaan memiliki cara untuk mematikan perangkat AI yang bermasalah.
Aturan itu juga akan memberikan kewenangan kepada sejumlah lembaga pemerintah untuk meminta sebuah perangkat AI dimatikan atau membatasi pengoperasiannya.
Namun, Presiden AS Donald Trump menolak seruan untuk memperlambat pengembangan AI. Dalam sebuah unggahan di media sosial, ia mengatakan bahwa “AI mengambil alih dunia, menghancurkan umat manusia, dan semua hal buruk lainnya adalah HOAX”.
Trump kemudian membandingkan kekhawatiran tersebut dengan kekhawatiran mengenai “Penipuan Pemanasan Global beberapa waktu lalu, ketika semua orang akan mati akibat panas ekstrem”.
Dalam unggahan sebelumnya, ia menulis: “Ada konspirasi SAKIT yang sedang berlangsung terhadap AI dan pusat data, dan satu-satunya pihak yang senang dengan hal ini adalah China. SIAPA PUN YANG MENANGKAN AI, AKAN MENANG!”
Di Inggris, pemerintah baru-baru ini menolak gagasan untuk membuat kill switch. Seorang juru bicara pemerintah mengatakan mekanisme tersebut “tidak akan mencegah AI dikembangkan atau disalahgunakan di tempat lain”.
Anthropic menciptakan chatbot populer Claude dan sepanjang tahun ini telah merilis sejumlah model AI yang semakin canggih, yaitu teknologi yang menjadi dasar bagi chatbot AI.
Bersama OpenAI, Anthropic juga telah melaporkan sendiri sejumlah insiden ketika agen AI, yakni bot yang dapat beroperasi secara relatif otonom, bertindak dengan cara yang tidak terduga.
