Anthropic memperingatkan bahwa kecerdasan buatan (AI) dapat menimbulkan “risiko bencana atau eksistensial bagi umat manusia”. Peringatan tersebut disampaikan ketika perusahaan itu mengungkapkan perincian rencana penawaran saham perdana (initial public offering/IPO) berskala besar di Amerika Serikat.
Valuasi Anthropic diperkirakan akan melampaui SpaceX, yang mencatatkan penawaran saham perdana terbesar sepanjang sejarah dengan valuasi awal sekitar US$1,8 triliun pada musim panas lalu.
Anthropic belum mengungkapkan jumlah saham yang akan ditawarkan, kisaran harga saham, maupun tanggal pelaksanaan IPO.
Perusahaan pengembang chatbot Claude tersebut melaporkan pendapatan sebesar US$16,3 miliar atau sekitar £12,2 miliar pada paruh pertama tahun ini, dengan kerugian lebih dari US$80,7 miliar.
Anthropic menyatakan akan mencatatkan sahamnya di bursa Nasdaq dengan simbol ANT. Langkah ini akan menjadikannya perusahaan pertama yang sepenuhnya berfokus pada AI dan melantai di bursa saham, sekaligus menjadi ujian penting bagi masa depan teknologi tersebut.
Dalam dokumen yang diajukan menjelang IPO, Anthropic menyebut bahwa para pembuat kebijakan, regulator, peneliti, serta sejumlah orang di dalam organisasinya telah menyampaikan kekhawatiran mengenai risiko signifikan yang ditimbulkan sistem AI terhadap umat manusia.
Perusahaan itu memperingatkan bahwa sistem AI canggih “dapat menimbulkan risiko bencana atau eksistensial bagi umat manusia jika tidak dikembangkan, diterapkan, dan dioperasikan dengan perlindungan, pengawasan, serta langkah-langkah keamanan yang memadai, terutama apabila sistem tersebut disalahgunakan, direplikasi, dipersenjatai, atau dibiarkan beroperasi dengan tingkat otonomi yang tinggi”.
Anthropic didirikan lima tahun lalu oleh CEO Dario Amodei, saudara perempuannya, Daniela Amodei, serta lima orang lainnya. Pada Juni lalu, perusahaan tersebut mengumumkan niatnya untuk melantai di bursa saham.
Pesaing utamanya, OpenAI, segera mengikuti langkah tersebut. Menurut seseorang yang mengetahui rencana OpenAI, perusahaan pengembang ChatGPT itu kini diperkirakan akan melaksanakan IPO pada awal tahun depan.
Pengumuman kedua perusahaan tersebut diikuti gelombang insiden keamanan siber dan pelanggaran teknologi lainnya yang melibatkan agen AI, yakni bot yang dirancang untuk beroperasi dengan tingkat otonomi tertentu.
Sejumlah mantan dan karyawan kedua perusahaan juga memperingatkan bahwa teknologi AI terus dikembangkan tanpa kemampuan perlindungan yang memadai untuk mengantisipasi potensi bahaya yang mungkin ditimbulkan perangkat AI terhadap umat manusia pada masa mendatang.
Ketika Anthropic mengungkapkan rencana pencatatan sahamnya pada Senin, pemegang hak atas musik Elvis Presley menggugat perusahaan AI tersebut. Mereka menuduh Anthropic menggunakan ratusan lagu bintang rock and roll itu untuk melatih chatbot Claude.
Pendekatan berani tetapi tetap rasional
Dalam dokumen terbaru, Anthropic kembali menegaskan komitmennya untuk mengembangkan AI yang memberikan manfaat bagi manusia, sekaligus memperingatkan investor mengenai berbagai risiko teknologi tersebut.
Laporan keuangan perusahaan menunjukkan kerugian yang melampaui pendapatan pada paruh pertama tahun ini. Meski demikian, Anthropic menyatakan akan terus melakukan investasi jangka panjang yang pada awalnya mungkin terlihat terlalu besar.
“Secara umum, kami akan berupaya mengambil langkah berani tetapi tetap rasional, serta membangun kepercayaan melalui rekam jejak keputusan investasi yang berhasil,” kata perusahaan teknologi tersebut.
Anthropic menyebut keberhasilannya sangat bergantung pada kemampuan mengembangkan model AI paling canggih. Perusahaan itu menambahkan bahwa kegagalan mencapai tujuan tersebut dapat berdampak negatif terhadap bisnisnya.
Dalam dokumen setebal sekitar 90 halaman yang menguraikan berbagai faktor risiko, Anthropic menjelaskan sejumlah ancaman terhadap kemampuannya mengembangkan AI secara aman sekaligus mempertahankan daya saing.
Perusahaan itu memperingatkan ketergantungannya pada sejumlah penyedia komputasi awan, produsen cip di Taiwan yang sudah menghadapi permintaan sangat tinggi, serta pusat data yang terkonsentrasi di Amerika Serikat.
Anthropic juga menyoroti potensi “tindakan regulator akibat kerugian yang ditimbulkan model AI kami”. Perusahaan tersebut menyinggung kekhawatiran mengenai penggunaan AI oleh anak-anak atau individu yang berisiko melakukan bunuh diri, serta ketidakpastian mengenai kapan dan bagaimana perusahaan dapat dimintai pertanggungjawaban atas tindakan yang dilakukan sistemnya.
Namun, dalam dokumen yang sama, Anthropic juga menekankan potensi manfaat teknologi tersebut. Perusahaan itu membayangkan AI mampu menghadirkan “jutaan agen virtual yang dapat merevolusi setiap bidang aktivitas manusia”.
“Kami meyakini bahwa AI merupakan salah satu teknologi paling berpengaruh dalam sejarah umat manusia,” kata Anthropic.
Perusahaan tersebut juga memperkirakan AI akan “mempercepat kemajuan di bidang biologi dan kedokteran secara signifikan”, sehingga berpotensi membantu menemukan pengobatan untuk berbagai penyakit, termasuk kanker dan Alzheimer.
Anthropic menambahkan bahwa AI juga dapat mendorong “percepatan pertumbuhan ekonomi secara berkelanjutan” melalui peningkatan produktivitas.
Tonggak penting bagi industri AI
Matt Orton, kepala strategi pasar di perusahaan manajemen investasi Raymond James Investment, mengatakan investor telah memperkirakan pertumbuhan pesat sekaligus kerugian finansial besar dalam laporan keuangan Anthropic. Karena itu, pengungkapan dokumen pada Senin tidak mengejutkan pasar.
“Mendapatkan perincian dari dokumen ini, menurut saya, akan membantu memberikan gambaran yang lebih jelas kepada pasar. Kita perlu mengetahui dari mana pertumbuhan pendapatannya berasal,” kata Orton
Peter Andersen, pendiri Andersen Capital Management, mengatakan kepada Reuters bahwa rencana Anthropic untuk melantai di bursa merupakan “tonggak penting dalam perkembangan kecerdasan buatan”.
Ia menambahkan bahwa hasil pencatatan saham perdana tersebut akan menjadi “indikator yang cukup jelas mengenai sentimen” investor terhadap kelanjutan aliran modal ke pengembangan AI.
