Linimasa media sosialnya dipenuhi video latihan fisik yang terus-menerus menjanjikan hasil yang tidak realistis. Melalui layar, perempuan-perempuan yang tidak pernah ditemuinya mendorong pengguna untuk mengikuti tantangan penghitungan kalori yang berbahaya. Pengguna lainnya dengan bangga memamerkan tinggi dan berat badan mereka, bahkan jumlah kunjungan ke rumah sakit, di profil masing-masing sebagai bagian dari persaingan yang tidak sehat.
Setiap malam sebelum tertidur, Varsha menonton orang asing di internet yang mencatat semua makanan dan minuman yang mereka konsumsi sepanjang hari.
“Saya berpikir, ‘Saya tidak perlu makan. Saya cukup menonton orang lain makan’,” kata Varsha.
“Saya sering mendapati diri saya terjebak dalam lubang yang sangat dalam di dunia maya. Rasanya, sekeras apa pun saya berusaha keluar, saya tidak bisa melakukannya.”
Kini berusia 24 tahun dan sedang menjalani pemulihan dari anoreksia, Varsha mengatakan dirinya masih menerima rekomendasi konten penurunan berat badan di media sosial, meskipun telah mengaktifkan seluruh pengaturan keamanan dan memasukkan daftar panjang kata yang ingin diblokir.
Pemerintah Australia mengatakan orang-orang seperti Varsha menjadi salah satu kelompok yang ingin dilindungi melalui serangkaian undang-undang baru untuk memperketat pengawasan terhadap perusahaan teknologi besar. Rancangan aturan tersebut diperkenalkan ke parlemen pada pekan ini.
Inti dari usulan reformasi itu adalah tombol untuk mematikan algoritma rekomendasi. Fitur ini akan mewajibkan platform media sosial menyediakan pilihan bagi pengguna untuk menonaktifkan konten rekomendasi, sehingga mereka hanya melihat unggahan dari akun yang diikuti.
Australia bukan negara pertama yang mencoba menerapkan kebijakan semacam ini. Namun, pengaturan algoritma yang tersedia saat ini sering kali hanya berlaku sementara dan disertai pembatasan terhadap fungsi aplikasi.
Pemerintah Australia ingin menghindari masalah tersebut dengan menyusun aturan yang lebih ketat. Pemerintah berharap undang-undang baru, yang juga akan mewajibkan layanan daring memenuhi kewajiban hukum untuk menjaga keselamatan pengguna, dapat membantu masyarakat Australia menjalani kehidupan yang lebih sehat dan bahagia.
Namun, para pengkritik menilai pemerintahan Perdana Menteri Anthony Albanese mengambil tantangan yang terlalu besar dalam upayanya menghadapi perusahaan teknologi besar. Pihak lain, termasuk pemerintahan Donald Trump, berpendapat bahwa reformasi tersebut mengancam kebebasan berbicara.
Pilihan bagi pengguna
Flynn Martin memahami bagaimana seseorang bisa terseret ke dalam lingkaran konten yang terus diperkuat oleh algoritma.
Sekitar empat tahun lalu, ketika berusia 20 tahun, linimasa media sosial Flynn mulai dipenuhi konten dari Andrew Tate, influencer yang secara terbuka mengaku misoginis, serta tokoh-tokoh lain dari komunitas manosphere, yaitu kelompok daring yang menyebarkan pandangan tertentu tentang maskulinitas dan hubungan antara laki-laki dan perempuan.
Saat itu, Flynn sedang merasa tidak percaya diri, frustrasi dengan kehidupannya, dan berjuang menghadapi masalah kesehatan mental. Ia kemudian didiagnosis mengalami gangguan bipolar. Flynn mengaku mudah terpengaruh oleh retorika kelompok tersebut.
Namanya kemudian viral di Australia berkat dua video. Video pertama berisi ocehannya tentang apakah menjadi laki-laki heteroseksual berkulit putih merupakan sesuatu yang dapat diterima. Dalam video lainnya, ia mengkritik seorang perempuan yang berkencan dengannya karena memesan yoghurt beku.
“Tanpa disadari, Anda bisa terjebak dalam semacam ruang gema, tempat Anda terus-menerus menerima pandangan yang sama. Sangat mudah untuk terbawa arus,” kata Flynn .
“Saya benar-benar mempercayai gagasan bahwa kita hidup dalam sebuah matriks, bahwa ada sistem sangat negatif yang dirancang untuk merugikan kita. Satu-satunya cara untuk keluar dari sistem itu adalah menjadi sosok laki-laki alfa.”
Pria asal Melbourne itu baru terlepas dari pengaruh komunitas manosphere setelah mengalami psikosis dan menjalani perawatan di rumah sakit.
Kini, Flynn mengaku sulit mengenang dirinya pada masa tersebut.
“Meski ada sedikit rasa malu dan canggung ketika mengingatnya, saya juga merasa perlu berempati kepada diri saya yang lebih muda,” ujarnya.
Flynn dan Varsha sama-sama menyadari bahwa media sosial bukan satu-satunya penyebab masa-masa terburuk dalam kehidupan mereka. Namun, keduanya menilai platform tersebut memainkan peran penting.
Banyak orang lain juga memiliki pengalaman serupa, yakni berhadapan dengan konten media sosial yang tidak mereka cari dan tidak ingin mereka lihat. Selama bertahun-tahun, muncul kekhawatiran bahwa algoritma yang mengkurasi konten di platform-platform tersebut justru membahayakan penggunanya.
Perusahaan media sosial berpendapat bahwa risiko yang ditimbulkan sering kali dibesar-besarkan. Mereka juga menyatakan telah menyediakan perangkat keamanan yang efektif bagi pengguna.
Namun, sejumlah penelitian dari berbagai negara mulai menunjukkan gambaran yang berbeda.
Berbagai studi menemukan bahwa penggunaan media sosial dapat memicu respons otak yang serupa dengan kecanduan judi dan zat adiktif. Algoritma juga dapat menyajikan konten yang tidak diminta pengguna dan berpotensi merusak kesehatan mental mereka. Selain itu, algoritma dinilai turut menyebarkan disinformasi, meningkatkan polarisasi, dan mendorong kekerasan di dunia nyata.
Sejumlah kasus pengadilan dan kesaksian pelapor pelanggaran internal turut memunculkan tuduhan bahwa perusahaan teknologi mengetahui bahaya tersebut, tetapi bersedia mengabaikannya demi meningkatkan keterlibatan pengguna dan keuntungan bisnis.
“Akibatnya, mereka mempromosikan konten yang provokatif atau memicu emosi kuat, entah itu kemarahan, ketakutan, hasrat, nafsu, rasa tidak percaya diri, atau apa pun. Konten seperti itulah yang membuat kita terus menggulir layar,” kata Chanel Contos.
Saat mempelajari persoalan tersebut di universitas, aktivis yang turut membantu mendorong reformasi standar pendidikan mengenai persetujuan seksual di Australia itu merancang kampanye untuk perubahan.
Kampanye bertajuk “Fix Our Feeds” menuntut agar algoritma rekomendasi dinonaktifkan secara otomatis. Pengguna media sosial seharusnya diberi pilihan untuk mengaktifkannya jika mereka menginginkannya.
Contos membayangkan kembalinya pengalaman menggunakan media sosial seperti pada awal 2010-an, ketika linimasa seseorang dipenuhi unggahan dari teman atau akun yang benar-benar mereka ikuti. Jumlah konten yang muncul pun lebih terbatas.
Petisi yang digagasnya mendapat lebih dari 15.000 tanda tangan. Kampanye tersebut juga memperoleh dukungan dari dua mantan perdana menteri, sejumlah anggota parlemen, tokoh berpengaruh, pegiat kesehatan mental, dan pakar keamanan daring.
Pada September, pemerintah mengatakan telah mendengarkan aspirasi warga Australia yang mendukung kampanye Contos. Pemerintah kemudian mengumumkan kebijakan yang mengadopsi sebagian usulannya, yakni mewajibkan perusahaan teknologi besar menyediakan tombol untuk mematikan algoritma, tetapi tidak sampai mewajibkan fitur tersebut dinonaktifkan secara otomatis.
“Ini bukan tentang memberikan kendali kepada pemerintah, melainkan memberikan kendali kepada masyarakat,” kata Albanese.
“Jika orang ingin terus menggulir media sosial tanpa henti, itu tidak masalah. Itu pilihan mereka.”
Kebijakan tersebut merupakan bagian dari rancangan undang-undang Digital Duty of Care yang mewajibkan layanan daring, termasuk perusahaan media sosial, situs permainan, dan chatbot, untuk “memastikan lingkungan daring yang aman sejauh yang secara wajar dapat dilakukan”.
Anak-anak harus dilindungi dari materi dan fitur desain yang berbahaya, seperti pornografi, konten yang mendorong gangguan makan, serta materi yang menumbuhkan sikap merugikan terhadap perempuan. Sementara itu, orang dewasa harus dilindungi dari materi dan perilaku yang menimbulkan bahaya serius, dengan cakupan yang jauh lebih sempit dan berfokus pada konten ilegal.
Pelanggaran terhadap undang-undang tersebut dapat dikenai denda hingga 100 juta dolar Australia, atau sekitar 52 juta pound sterling dan 70 juta dolar AS.
“Digital Duty of Care menjawab banyak pertanyaan mengenai hal-hal yang belum tercakup dalam undang-undang batas usia minimum penggunaan media sosial, karena cakupannya jauh lebih luas. Aturan ini berlaku bagi semua layanan daring dan mengalihkan tanggung jawab dari para korban kepada operator teknologi besar yang mencari keuntungan dari pengguna Australia,” kata Menteri Komunikasi Anika Wells.
Tantangan penerapan
Sejauh ini, perusahaan teknologi besar belum banyak memberikan tanggapan. Meta, Snap, TikTok, X, serta Google, pemilik YouTube, menolak permintaan komentar dan belum mengeluarkan pernyataan publik mengenai rancangan undang-undang tersebut.
Beberapa hari setelah pengumuman kebijakan itu, Kepala Instagram Adam Mosseri berpendapat bahwa linimasa tanpa algoritma akan membuat pengguna melihat lebih sedikit unggahan dari teman-teman mereka. Ia juga mengatakan tidak percaya bahwa aplikasinya menyebabkan kecanduan, meskipun juri di Amerika Serikat baru-baru ini memutuskan sebaliknya.
“Saya pikir kita mencampuradukkan penggunaan kata ‘kecanduan’ dalam percakapan sehari-hari, seperti ketika mengatakan ‘saya kecanduan serial ini dan menontonnya secara maraton’, dengan kecanduan dalam pengertian klinis,” katanya dalam konferensi pers di Sydney.
Partai-partai sayap kanan di Australia, bersama pemerintahan Trump, menyatakan bahwa usulan mengenai algoritma maupun rancangan undang-undang yang lebih luas berisiko mendorong moderasi konten secara berlebihan dan berujung pada penyensoran.
Namun, pihak yang mendukung undang-undang tersebut menilai kekhawatiran itu tidak beralasan karena pengguna tetap bebas mengikuti akun yang mereka inginkan dan membagikan konten sesuai pilihan mereka.
“Jika orang dewasa ingin mendengarkan podcast komunitas manosphere, mengunggah pandangan tentang pemerintah, membuat meme, atau mengatakan bahwa pendaratan di Bulan adalah rekayasa, mereka tetap bisa melakukannya tanpa pembatasan,” kata Wells pada pekan ini.
Usulan tersebut tampaknya jauh lebih sedikit memicu perpecahan di kalangan masyarakat dan pakar keamanan daring dibandingkan kebijakan Australia yang melarang anak-anak menggunakan media sosial.
Meski demikian, pertanyaan besarnya adalah bagaimana Australia akan menerapkan kebijakan ini ketika pemerintah sendiri masih kesulitan menjalankan larangan penggunaan media sosial bagi anak-anak. Sejumlah survei menunjukkan bahwa sebagian besar anak yang sudah menggunakan media sosial sebelum larangan diberlakukan masih tetap mengaksesnya. Hingga kini, belum ada denda yang dijatuhkan terkait pelanggaran aturan tersebut.
Upaya Uni Eropa memperkenalkan pengaturan algoritma pada 2023 juga menjadi pelajaran penting. Setelah kebijakan itu diterapkan, sejumlah platform menyediakan linimasa yang hanya menampilkan unggahan dari akun yang diikuti pengguna.
Perusahaan media sosial menyatakan bahwa tingkat penggunaan fitur keamanan dan pengaturan semacam itu masih rendah. Mereka menjadikan hal tersebut sebagai bukti bahwa pengguna menyukai produk mereka dalam bentuk yang tersedia saat ini. Namun, para pakar menilai ada alasan lain di balik rendahnya penggunaan fitur tersebut.
“Platform akan menjalankan apa yang diperintahkan undang-undang, tetapi dengan cara yang sangat merepotkan sehingga pengguna tidak benar-benar menikmati pilihan itu dan akhirnya tetap menggunakan pengalaman standar yang dikendalikan algoritma,” tulis peneliti Chris Zomer dari ARC Centre of Excellence for the Digital Child dalam artikel di The Conversation.
Di Instagram, misalnya, ketika pengguna menonaktifkan algoritma, mereka tidak dapat melihat pesan langsung atau mengakses profil dan pengaturan akun. Setelah keluar dari aplikasi dan kembali menggunakannya, linimasa akan kembali dikendalikan algoritma.
Belanda menjadi satu-satunya negara yang berhasil mengatasi persoalan tersebut. Perubahan dilakukan setelah pengadilan Belanda pada tahun lalu memutuskan bahwa Meta melanggar Undang-Undang Layanan Digital Uni Eropa.
Aturan untuk Australia masih dalam tahap penyusunan. Namun, pemerintah mengatakan bahwa linimasa yang hanya menampilkan unggahan dari akun yang diikuti tidak boleh lebih sulit digunakan atau memiliki fungsi yang lebih terbatas. Pengaturan algoritma juga harus mudah ditemukan dan tidak boleh berubah tanpa pilihan tegas dari pengguna, termasuk ketika mereka keluar dari aplikasi.
Didorong oleh keberhasilan kampanyenya di Australia, Contos kini berupaya memperluas gerakannya ke tingkat global.
“Kami merasa Kanada, Inggris, dan Australia memiliki pandangan yang sejalan mengenai keamanan daring. Jika ketiga yurisdiksi tersebut menerapkan kebijakan ini, dampaknya bisa menjadi cukup besar untuk mendorong perubahan yang lebih luas,” katanya.
Meskipun pengalaman Flynn dan Varsha turut menginspirasi reformasi tersebut, keduanya masih menyimpan keraguan terhadap efektivitas kebijakan baru.
Varsha sulit membayangkan Australia mampu mengalahkan kekuatan perusahaan teknologi besar. Karena itu, ia tidak yakin rancangan undang-undang Digital Duty of Care akan berhasil.
Sementara itu, Flynn menilai para pembuat kebijakan perlu bersikap realistis mengenai potensi tombol penonaktifan algoritma.
“Pada akhirnya, kita menggunakan media sosial sebagai salah satu bentuk hiburan,” ujarnya.
Survei yang dilakukan pada awal bulan ini menunjukkan bahwa sekitar dua pertiga warga Australia dari Generasi Z akan tetap menggunakan algoritma media sosial mereka. Namun, hampir separuh warga Australia secara keseluruhan menyatakan akan menonaktifkannya.
Varsha mengakui kemungkinan dirinya tidak akan terlalu sering menggunakan fitur untuk mematikan algoritma tersebut. Meski demikian, ia menghargai adanya pilihan itu.
“Pada hari-hari ketika kondisi saya sedang buruk, saya masih rentan terhadap semua hal yang memengaruhi saya ketika berusia 17 tahun. Mengetahui bahwa saya bisa memilih untuk keluar dari sistem itu ketika sedang mengalami hari yang buruk membuat saya merasa jauh lebih baik.”
