CEO OpenAI Sam Altman mengatakan masyarakat seharusnya lebih percaya kepada perusahaannya dan perusahaan AI lainnya untuk bertindak benar dalam mengembangkan kecerdasan buatan (AI), di tengah meningkatnya kekhawatiran publik terhadap berbagai risiko teknologi tersebut.
“Dunia harus percaya bahwa kami akan melakukan hal yang benar karena memang itu adalah hal yang benar untuk dilakukan, dan kami memahami besarnya tanggung jawab ini,” kata Altman pada Selasa dalam sebuah konferensi di San Francisco.
Namun, Altman mengakui bahwa kekhawatiran masyarakat terhadap AI memiliki dasar yang kuat, terutama karena kemampuan teknologi tersebut berkembang dengan sangat cepat.
“Tidak diperlukan imajinasi sebesar dulu untuk membayangkan bagaimana hal ini bisa berjalan buruk,” ujarnya. “Saya pikir dunia memang berhak takut terhadap hal ini.”
Pernyataan Altman disampaikan saat dirinya tampil dalam konferensi tahunan yang digelar perusahaan perangkat lunak Salesforce.
Penampilan tersebut menjadi kesempatan pertama bagi Altman berbicara di depan publik sejak sebuah unggahan peneliti yang mengundurkan diri dari perusahaan AI Anthropic menjadi viral pekan lalu. Peneliti tersebut mengklaim bahwa AI dapat membunuh seluruh umat manusia pada akhir dekade ini jika dibiarkan berkembang tanpa pengawasan.
Sejumlah kecil eksekutif dan pakar AI lainnya kemudian menyatakan setuju dengan penilaian tersebut, meski mereka tidak menjelaskan bagaimana mereka sampai pada kesimpulan itu maupun bagaimana tepatnya AI dapat melakukan hal tersebut.
Ramainya pernyataan tersebut memicu pengawasan yang lebih ketat terhadap pengembangan AI dalam beberapa hari terakhir. Sebagai tanggapan, CEO Anthropic Dario Amodei menyerukan agar laju seluruh pengembangan AI diperlambat dan mendesak pemerintah untuk mengatur industri tersebut.
Unggahan Amodei mendapat dukungan dari Altman, salah satu pendiri Google DeepMind Demis Hassabis, serta Elon Musk, pemilik platform media sosial X dan asisten AI Grok.
Pada Selasa, semakin banyak pemimpin perusahaan AI menyuarakan dukungan terhadap pengaturan mandiri industri dibandingkan keterlibatan pemerintah.
Altman mengatakan perusahaan AI seperti OpenAI pada dasarnya mampu mengatur dirinya sendiri.
“Kami akan melakukannya dengan benar. Saya sangat yakin terhadap kemampuan perusahaan dan industri kami untuk melakukan ini dengan aman,” kata Altman. Ia menambahkan bahwa dirinya yakin perusahaan akan “menjaga keselarasan dan keselamatan jauh di depan kemampuan teknologi” dan jika hal itu tidak dapat dilakukan, mereka akan “memperlambat atau berhenti”.
OpenAI menjadi salah satu pemimpin industri AI
Setelah pernyataan Altman, CEO Meta Mark Zuckerberg menulis di X bahwa setiap perusahaan AI memiliki kemampuan dan insentif “untuk mengambil tindakan sendiri” guna memastikan perangkat dan model AI yang mereka kembangkan dirancang dengan mempertimbangkan keselamatan.
“Setiap laboratorium yang tidak berfokus pada alignment akan tertinggal,” tulis Zuckerberg. “Laboratorium menghadapi tanggung jawab hukum yang signifikan jika model mereka menimbulkan kerugian, sehingga mereka juga memiliki insentif kuat untuk mencegah hal tersebut.”
Jensen Huang, CEO Nvidia, juga mengatakan dalam konferensi yang sama pada Selasa bahwa perusahaan AI seharusnya menentukan sendiri apakah versi baru teknologi tersebut layak dirilis, bukan dikelola oleh pihak luar.
“Kita tidak membutuhkan undang-undang atau regulasi baru,” kata Huang. Ia menambahkan bahwa tidak seharusnya ada “pilihan yang seolah-olah saling bertentangan” antara kecepatan inovasi dan keamanan produk AI.
Nvidia merupakan perusahaan dengan valuasi terbesar di dunia. Keuntungan perusahaan tersebut melonjak seiring tingginya permintaan terhadap chip komputasi AI yang diproduksinya.
“Keselamatan adalah hal yang paling utama. Namun, keselamatan merupakan persoalan rekayasa,” kata Huang.
Ia menambahkan bahwa jika sewaktu-waktu pimpinan sebuah perusahaan AI tidak yakin terhadap produknya, mereka seharusnya memilih untuk tidak merilisnya.
“Itu adalah hal yang sangat jelas untuk dilakukan,” kata Huang. “Berlarilah secepat mungkin, tetapi jika sewaktu-waktu Anda merasa institusi tersebut tidak berada dalam kendali, berhentilah sejenak.”
Peringatan kiamat bukan satu-satunya ancaman bagi industri AI
Sejumlah tokoh industri berpendapat bahwa kekhawatiran yang kembali mencuat mengenai AI terlalu dibesar-besarkan dan dimanfaatkan untuk menciptakan perhatian serta meningkatkan antusiasme terhadap industri tersebut.
Dalam konferensi itu, Altman berbicara di hadapan ratusan pelaku bisnis. Ia mendorong mereka menggunakan perangkat AI untuk membantu pekerjaan, tetapi juga mengatakan teknologi tersebut diperlukan untuk melindungi perusahaan dari potensi serangan siber yang memanfaatkan AI.
Gagasan bahwa para eksekutif perusahaan AI dibiarkan sepenuhnya mengatur industri mereka sendiri dinilai buruk oleh sejumlah pihak di dalam industri tersebut.
Jack Clark, eksekutif sekaligus salah satu pendiri Anthropic, mengatakan pada Senin bahwa membiarkan AI menjadi “industri yang sepenuhnya tidak diatur” sama dengan “mempertaruhkan risiko yang sangat besar”.
Patrick Hillman, chief operating officer Logical Intelligence, perusahaan yang diketuai Yann LeCun, salah satu tokoh terkemuka di bidang AI, pada Selasa menyoroti rendahnya kepercayaan masyarakat terhadap perusahaan teknologi untuk benar-benar bertindak demi kepentingan publik.
“Satu-satunya institusi yang mungkin lebih tidak dipercaya warga Amerika dibandingkan Washington saat ini adalah Silicon Valley. Saya pernah bekerja dan tinggal di kedua tempat tersebut, dan saya memastikan kepada Anda bahwa keduanya memang layak mendapatkan skeptisisme ini,” kata Hillman.
“Jika Anda yakin apa yang sedang Anda bangun itu berbahaya, tunjukkan kepada kami apa yang bersedia Anda hentikan,” tambahnya.
Kesepakatan keselamatan AI lintas industri
Pimpinan OpenAI dan Anthropic mengatakan mereka baru-baru ini mulai bekerja menuju semacam kesepakatan keselamatan yang berlaku di seluruh industri.
Amodei, yang muncul dalam konferensi tersebut pada Selasa, mengatakan Anthropic kini berada dalam “dialog dengan industri lainnya” mengenai komitmen untuk meningkatkan standar keselamatan serta pemeriksaan terhadap perangkat dan pengembangan AI.
Ia juga mengatakan salah satu kejutan terbesar dari ledakan perkembangan AI bukanlah kemajuan teknologi itu sendiri, melainkan dampak yang ditimbulkannya secara lebih luas.
“Kami tidak menyadari bahwa hal ini akan membuat perusahaan tumbuh begitu cepat, dan betapa cepatnya perusahaan-perusahaan tersebut menjadi bagian yang sangat penting dalam berbagai hal,” kata Amodei.
Eksekutif OpenAI Chris Lehane mengatakan pekan lalu bahwa perusahaan tersebut juga bekerja sama dengan laboratorium AI lainnya “untuk memajukan standar AI terdepan, dengan membangun upaya sukarela saat ini, dengan atau tanpa dukungan pemerintah”. Laboratorium yang terlibat antara lain Anthropic dan Google DeepMind.
“Dengan besarnya taruhan yang dipertaruhkan, kita tidak boleh membiarkan kesempurnaan menjadi penghalang bagi sesuatu yang baik,” tulis Lehane.
