Saat China masih berupaya mengatasi dampak Topan Noul yang menerjang wilayahnya pada akhir pekan lalu, pemerintah kini menghadapi tantangan baru yang tak kalah serius, yaitu maraknya video menyesatkan hasil kecerdasan buatan (Artificial Intelligence atau AI).
Dalam beberapa bulan terakhir, ketika badai besar dan banjir melanda berbagai daerah, media sosial dibanjiri video palsu. Di antaranya menampilkan jasad-jasad yang diklaim mengapung di tengah banjir, gambaran banjir parah di wilayah yang sebenarnya tidak terdampak, hingga rekaman fiktif mengenai operasi tanggap darurat.
Di sejumlah daerah, video berisi informasi palsu mengenai pemadaman listrik bahkan memicu kepanikan warga yang kemudian berbondong-bondong membeli perlengkapan darurat.
Sebagian video lain memanfaatkan peristiwa yang benar-benar terjadi.
Banjir di Kota Hengzhou, Guangxi, pada awal Juli menyebabkan ratusan ular lolos dari sebuah peternakan. Tak lama kemudian, beredar pula gambar palsu yang memperlihatkan buaya dilepaskan ke sungai.
Di tengah situasi yang sudah mencekam akibat evakuasi massal dan operasi penyelamatan yang rumit, pemerintah berupaya mencegah kepanikan. Kini, mereka khawatir teknologi AI, yang justru sedang mendapat investasi miliaran dolar di China, menyediakan alat yang mudah diakses untuk menipu masyarakat.
“Banyak pembuat konten memanfaatkan berita bencana demi menambah pengikut. Mereka tahu bahwa konten yang lebih sensasional atau dilebih-lebihkan akan memperoleh lebih banyak tanda suka dan penayangan. Mereka sengaja membuat informasi palsu untuk menarik perhatian,” kata Huang Zhihua, Wakil Kepala Keamanan Siber Kepolisian Provinsi Zhejiang, kepada media pemerintah China.
Dalam beberapa pekan terakhir, aparat telah menangkap dan menjatuhkan berbagai sanksi kepada pelaku penyebaran laporan serta video palsu, mulai dari penahanan sambil menunggu proses pidana hingga denda.
Namun, para ahli memperingatkan bahwa krisis misinformasi dalam skala yang belum pernah terjadi sebelumnya dapat segera terjadi.
Dalam artikel yang diterbitkan surat kabar milik Sekolah Partai Komunis China, Profesor Chen Bin mengatakan AI telah secara drastis menurunkan hambatan teknis untuk memproduksi informasi palsu.
“Individu tidak lagi membutuhkan kemampuan teknis yang rumit. Cukup dengan memberikan perintah kepada alat AI, mereka dapat dengan cepat menghasilkan teks, gambar, audio, dan video yang meyakinkan, sangat realistis, tetapi sepenuhnya palsu, serta diproduksi dalam skala besar,” ujarnya.
Profesor Gao Fuping dari East China University of Political Science and Law mengatakan bahwa motif penyebaran konten palsu sangat beragam, mulai dari orang yang sekadar ingin membuat sesuatu yang lucu tanpa memikirkan dampaknya, mereka yang mengejar keuntungan melalui tingginya jumlah kunjungan, hingga pihak yang sengaja ingin memicu kepanikan atau keresahan sosial.
“Sebagian pengguna menganggap dunia maya bersifat anonim dan tidak diatur, atau mereka merasa tidak mungkin dapat dilacak,” katanya.
Sejumlah pihak mengusulkan agar seluruh konten yang dihasilkan AI diberi penanda khusus. Namun, pengguna lain tetap dapat menyunting ulang materi tersebut dan menghapus tanda tersebut.
Profesor Xu Xiaoke dari Beijing Normal University mengatakan bahwa diperlukan upaya yang lebih besar untuk memverifikasi lokasi geografis beserta penanda waktu, sekaligus memeriksa sumber asli gambar.
“Meski demikian, saya juga ingin menekankan bahwa teknologi pendeteksi masih tertinggal dibanding teknologi pembuat konten. Kita berada dalam permainan kejar-kejaran yang tidak pernah berhenti. Karena itu, kita tidak boleh menganggap teknologi saja mampu mengenali konten AI hanya dengan sekali klik,” ujarnya.
Pemerintah China sendiri terus mendorong pengembangan AI sebagai bagian dari ambisinya menjadi negara adidaya teknologi dunia.
Pada 2017, pemerintah menyatakan AI akan menjadi “kekuatan pendorong utama” bagi kemajuan negara.
Investasi besar terus mengalir ke perusahaan-perusahaan AI yang mencari pendanaan tambahan, sehingga memacu persaingan di dalam negeri. Kantor berita pemerintah Xinhua melaporkan bahwa China kini memiliki lebih dari 6.000 perusahaan AI.
Di tengah situasi tersebut, Profesor Xu menilai China perlu membangun “infrastruktur informasi yang tepercaya”. Langkah itu dapat mencakup sistem peringatan dini resmi pemerintah serta platform informasi kebencanaan yang dapat diakses organisasi media.
Namun, pernah terjadi sejumlah kasus ketika sumber resmi, termasuk media yang dikendalikan pemerintah, justru dianggap mengecilkan skala bencana sehingga memicu berkurangnya kepercayaan masyarakat.
Pada awal Juli, jurnalis lokal dilaporkan diminta menggunakan istilah yang lebih lunak untuk menggambarkan jebolnya tanggul Bendungan Liulan di dekat Nanning. Mereka diminta menyebutnya sebagai “bukaan” atau “celah”, alih-alih “jebol”.
Pejabat diduga berusaha membuat kerusakan tersebut terdengar tidak terlalu mengkhawatirkan. Namun, dampaknya sangat mematikan. Air yang menerobos bendungan menyebabkan sedikitnya 26 orang tewas di wilayah hilir.
Peristiwa itu bukan kasus yang berdiri sendiri.
Pada 2021, sejumlah pejabat daerah ditangkap karena diduga menyembunyikan atau melaporkan jumlah korban yang lebih rendah dalam bencana di Provinsi Henan. Mereka dituduh tidak melaporkan 139 kematian secara benar.
Kasus-kasus seperti itu menciptakan kekosongan kepercayaan yang memudahkan pihak tidak bertanggung jawab menyebarkan konten palsu.
Karena itu, kepolisian mengimbau masyarakat agar hanya mempercayai informasi dari sumber resmi selama keadaan darurat.
“Ketika menemukan informasi terkait bencana dari sumber yang tidak dikenal, bersikaplah skeptis dan berpeganglah pada pengumuman resmi,” kata Gao Kai dari Biro Keamanan Publik Ningbo.
Ia juga berusaha meyakinkan masyarakat bahwa penyebar informasi palsu akan ditindak.
“Internet bukanlah wilayah tanpa hukum. Aparat keamanan publik akan terus meningkatkan upaya untuk memberantas aktivitas ilegal di dunia maya.”
Menurutnya, kepolisian telah membentuk satuan tugas khusus yang memantau media sosial, terutama platform video pendek, agar dapat menyelidiki dan menangani kasus-kasus tersebut dengan cepat serta menindak pelakunya secara tegas.
Hukuman yang dijatuhkan dapat berupa denda hingga pidana penjara maksimal tujuh tahun, apabila dampak dari penyebaran informasi palsu dinilai sangat serius.
Pada 23 Juli, Administrasi Ruang Siber China juga mengumumkan operasi nasional untuk memberantas konten internet palsu terkait banjir dan bencana lainnya. Kantor-kantor di daerah diperintahkan memprioritaskan penindakan terhadap data palsu, video hasil penyuntingan yang menyesatkan, adegan yang direkayasa, penggunaan peristiwa lama seolah-olah baru terjadi, serta akun yang menyamar sebagai pejabat pemerintah.
Selain itu, pemerintah meminta seluruh platform media sosial memperketat proses peninjauan terhadap konten yang diunggah penggunanya.
Profesor Gao menilai solusi terbaik adalah menggabungkan edukasi publik dengan penegakan hukum.
“Ada kebutuhan untuk mempublikasikan kasus-kasus nyata ketika pelaku telah dihukum,” katanya.
Ia menambahkan bahwa dampak buruk konten palsu berbasis AI pada akhirnya ditentukan oleh cara manusia menggunakan teknologi tersebut, bukan oleh teknologinya sendiri. Menurutnya, peraturan hukum yang ada saat ini sebenarnya sudah memadai untuk menangani persoalan tersebut.
Namun, tidak semua pihak sependapat.
Profesor Chen menilai perkembangan teknologi AI berlangsung jauh lebih cepat dibanding kemampuan hukum untuk mengimbanginya.
“Seiring munculnya berbagai persoalan hukum baru, misinformasi berbasis AI akan tetap menjadi tantangan besar.”
Pengacara yang berbasis di Shanghai dan Washington, Peter Pang, mengatakan para praktisi hukum di berbagai negara kini menghadapi lonjakan perkara yang berkaitan dengan penyalahgunaan AI.
Ia berpendapat bahwa perusahaan pembuat aplikasi AI dan platform yang digunakan untuk menyebarkan video palsu harus ikut dimintai pertanggungjawaban hukum, selain para pembuat konten yang menyebarkan informasi menyesatkan.
“Garis pertanggungjawaban pertama seharusnya ada pada platform, karena merekalah yang memungkinkan konten itu tersebar,” katanya
Pang memberikan ilustrasi mengenai seseorang yang menabrak pejalan kaki akibat kepanikan yang dipicu oleh unggahan palsu di media sosial.
“Pembuat video mungkin akan berkata, ‘Anda yang menabrak seseorang. Itu masalah Anda, bukan saya.’ Tetapi jika dipikirkan lebih jauh, Andalah yang menciptakan dasar yang memicu reaksi orang lain. Jika Anda menciptakan kepanikan itu, maka Anda juga harus bertanggung jawab atas akibat yang ditimbulkannya.”
Sementara itu, Profesor Xu memperingatkan bahwa misinformasi yang dihasilkan AI kemungkinan besar akan terus meningkat, baik dari sisi jumlah maupun kecepatan penyebarannya.
“Ke depan, pemilihan umum, keadaan darurat kesehatan masyarakat, konflik bersenjata, bencana alam, serta berbagai persoalan yang menyangkut kehidupan masyarakat berpotensi menjadi area dengan risiko tertinggi bagi penyebaran misinformasi berbasis AI.”
“Daripada menunggu informasi palsu menjadi viral baru kemudian berusaha mengendalikannya, pemerintah dan platform digital seharusnya mulai mempersiapkan langkah-langkah pencegahan sejak sekarang.”
