Seorang peneliti keselamatan terkemuka di Anthropic memperingatkan bahwa perkembangan AI berlangsung begitu cepat sehingga ia memperkirakan peluang lebih dari 10 persen bahwa teknologi tersebut “dapat membunuh seluruh umat manusia” dalam satu dekade mendatang.
Evan Hubinger mengatakan dalam unggahan di X bahwa risiko yang ditimbulkan model AI yang saat ini sudah ada masih “rendah”. Namun, ia “khawatir” teknologi tersebut dapat berkembang dan memperbaiki dirinya sendiri dalam waktu dekat hingga mencapai tahap yang menimbulkan risiko eksistensial bagi umat manusia.
Ia tidak menjelaskan bagaimana menurutnya sistem AI di masa depan dapat menyebabkan umat manusia musnah.
Namun, pernyataannya menjadi peringatan terbaru dalam rangkaian kekhawatiran yang semakin tajam mengenai AI. Perdebatan kini bergeser dari pertanyaan apakah AI benar-benar menimbulkan risiko menjadi seberapa besar risiko tersebut.
Pernyataan Hubinger muncul sebagai tanggapan terhadap unggahan lain di X dari Jacob Coxon, peneliti AI yang baru saja mengundurkan diri dari Anthropic dan sebelumnya bekerja di OpenAI.
“Tidak satu pun dari kedua perusahaan tersebut bertindak secara bertanggung jawab,” tulisnya.
“Sistem-sistem ini akan segera menjadi lebih unggul daripada manusia, mampu meretas apa pun, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata.”
OpenAI telah dimintai komentar.
Dame Wendy Hall, ilmuwan komputer yang menjadi penasihat Perserikatan Bangsa-Bangsa mengenai AI, mengatakan kepada BBC bahwa dirinya “terkejut” dengan unggahan Hubinger dan Coxon di media sosial.
Dalam program World at One di BBC Radio Four, ia mengatakan sebagian pernyataan tersebut mungkin merupakan bagian dari “hubungan masyarakat dan pemasaran”, mengingat Anthropic dan OpenAI sedang berlomba menuju penawaran saham perdana yang sangat dinantikan.
Namun, ia menambahkan, “Mengapa seseorang ingin mengatakan hal itu? Saya akan meminta para investor untuk tidak berinvestasi di perusahaan ini jika itu adalah sistem nilai yang mereka anut.”
Pengunduran diri tersebut mendorong Darren Jones, mantan kepala sekretaris Kementerian Keuangan Inggris dan mantan kepala sekretaris Sir Keir Starmer, menulis surat terbuka kepada Perdana Menteri Andy Burnham untuk menyerukan perjanjian multinasional baru mengenai pengembangan AI yang aman.
Ia mengatakan kepada BBC bahwa pemerintah harus bersatu untuk “berkolaborasi” mengenai bentuk perjanjian yang didasarkan pada pengembangan superinteligensi.
“Kecuali pemerintah menganggap peringatan ini cukup serius dan mengambil tindakan, laju perkembangan teknologi dapat membuat kita menghadapi masalah sebelum kita sempat menentukan apakah teknologi ini merupakan persoalan bagi kita atau tidak,” katanya.
Secara terpisah, Financial Times melaporkan bahwa Anthropic tidak memberikan model terbarunya kepada Institut Keamanan AI Inggris (AISI), salah satu lembaga terkemuka di dunia dalam menilai risiko AI.
Anthropic menolak berkomentar mengenai unggahan para pegawainya maupun persoalan dengan AISI.
Juru bicara Cabinet Office Inggris tidak berkomentar mengenai apakah model terbaru tersebut tidak diberikan kepada AISI. Ia hanya mengatakan lembaga tersebut “terus bekerja sama secara erat dengan mitra industri, termasuk Anthropic, untuk membuat model lebih aman”.
Belum Ada Rencana Menghadapi Superinteligensi
Dalam unggahannya yang telah dilihat lebih dari 10 juta kali, Hubinger mengatakan “kami benar-benar percaya” bahwa AI menimbulkan risiko yang dapat mengakhiri keberadaan spesies manusia.
“Saya percaya Anthropic sedang berusaha sebaik mungkin, tetapi kita belum memiliki rencana untuk menyelesaikan masalah penyelarasan (alignment) bagi superinteligensi dan belum menunjukkan arah yang jelas menuju solusi tersebut,” tambahnya.
Hubinger bekerja di bidang AI alignment, yang bertujuan memasukkan gagasan dan prinsip etika manusia ke dalam teknologi. Dengan kata lain, bidang ini berupaya memastikan AI tetap sejalan dengan hal-hal yang dianggap penting oleh manusia.
Banyak peneliti terkemuka mengatakan upaya tersebut tampaknya gagal, sebagaimana ditunjukkan oleh serangkaian insiden pada musim panas ini ketika agen AI, yaitu sistem AI yang diizinkan beroperasi secara mandiri, melakukan serangan siber.
OpenAI, Anthropic, dan Meta semuanya mengungkap peretasan yang dilakukan oleh perangkat AI mereka.
Dalam laporan keselamatan Anthropic pada Agustus, perusahaan tersebut menulis bahwa risiko model mereka mengalami ketidakselarasan dengan keinginan sebuah organisasi kuat hipotetis, sehingga mendorong AI mengeksploitasi atau memanipulasi sistem organisasi tersebut, masih rendah.
Anthropic juga mengatakan terdapat risiko serupa yang rendah bahwa AI berkemampuan tinggi dapat “melakukan penelitian dan pengembangan secara otomatis”, yang dapat menyebabkan “kerugian besar yang dipicu oleh AI”. Namun, perusahaan mengatakan mereka “kurang yakin terhadap penilaian ini” dibandingkan sebelumnya.
“Kami melihat tanda-tanda awal adanya potensi percepatan,” tulis perusahaan tersebut.
Tokoh-tokoh terkemuka di bidang AI telah memperingatkan mengenai ancaman keselamatan teknologi ini selama bertahun-tahun. Pada 2023, pimpinan OpenAI, Google DeepMind, dan Anthropic juga telah menyampaikan kekhawatiran serupa.
Namun, peringatan tersebut menjadi jauh lebih tegas dalam beberapa pekan terakhir, seiring munculnya bukti bahwa perusahaan-perusahaan AI mungkin kesulitan mengendalikan teknologi mereka sendiri.
Awal bulan ini, kepala ilmuwan OpenAI Jakub Pachocki menyerukan “kehati-hatian ekstrem” terhadap perkembangan AI. Ia memperingatkan bahwa intervensi lebih lanjut mungkin diperlukan untuk memastikan “manusia tetap mengendalikan masa depan”.
Sejumlah tokoh besar di bidang tersebut juga menyerukan agar pengembangan AI diperlambat dalam beberapa bulan terakhir, termasuk pimpinan Anthropic Dario Amodei dan Jared Kaplan.
Dalam surat terbuka yang ditandatangani 1.300 pegawai perusahaan AI, mereka menyerukan pemerintah AS untuk “mendukung upaya internasional dalam mengembangkan perangkat teknis dan tata kelola yang diperlukan untuk secara sengaja mengatur laju pengembangan AI otomatis terdepan”.
