Florida menjadi negara bagian pertama di Amerika Serikat yang menggugat OpenAI terkait desain dan keamanan chatbot kecerdasan buatan (AI) miliknya, ChatGPT.
Gugatan luas yang diajukan Jaksa Agung Florida, James Uthmeier, menuduh OpenAI dan CEO-nya, Sam Altman, membahayakan serta membuat anak-anak kecanduan, membantu pelaku penembakan massal, hingga mendorong pengguna untuk bunuh diri demi mengejar keuntungan bisnis.
Menanggapi gugatan tersebut, OpenAI menyatakan bahwa perusahaan telah menerapkan “perlindungan dan kebijakan terdepan di industri” untuk menjaga keamanan pengguna.
Langkah hukum ini muncul di tengah penyelidikan kriminal yang sedang dilakukan Florida terkait kemungkinan peran ChatGPT dalam kasus pembunuhan dua orang saat penembakan massal di Florida State University tahun lalu.
Selain menargetkan OpenAI sebagai perusahaan, gugatan perdata tersebut juga berupaya meminta pertanggungjawaban pribadi dari Sam Altman atas dugaan “tindakan ceroboh dan disengaja”, termasuk apa yang disebut sebagai “pengabaian total terhadap risiko terhadap nyawa manusia yang ditimbulkan oleh perilaku perusahaan”.
Dalam dokumen gugatan, Florida melayangkan sejumlah tuduhan, termasuk praktik perdagangan yang menipu dan tidak adil, kelalaian, pelanggaran hukum tanggung jawab produk, misrepresentasi atau penyampaian informasi yang menyesatkan, serta menciptakan gangguan terhadap kepentingan publik.
Dikaitkan dengan Kasus Penembakan dan Pembunuhan
Gugatan tersebut merujuk pada beberapa kasus kriminal yang diduga melibatkan penggunaan ChatGPT.
Salah satunya adalah penembakan massal di Florida State University. Selain itu, dokumen gugatan juga menyinggung kasus pembunuhan dua mahasiswa doktoral dari University of South Florida.
Menurut jaksa, tersangka dalam kasus tersebut diduga menggunakan ChatGPT untuk menanyakan berbagai hal terkait cara membuang jenazah manusia.
“Sam Altman dan ChatGPT telah memilih perlombaan AI dibandingkan keselamatan dan keamanan anak-anak kita. Mereka memilih keuntungan dibandingkan keselamatan publik, dan kami tidak akan tinggal diam di Florida. Kami akan meminta pertanggungjawaban mereka,” kata Uthmeier dalam konferensi pers pada Senin.
Respons OpenAI
OpenAI menyampaikan belasungkawa kepada keluarga korban.
“Kehilangan seorang anak adalah tragedi paling menghancurkan yang dapat dialami sebuah keluarga, dan kami memahami bahwa tidak ada kata-kata yang dapat menghapus rasa sakit akibat kehilangan tersebut,” kata perusahaan.
OpenAI menegaskan bahwa teknologi AI merupakan inovasi yang kuat dan baru sehingga perlindungan terhadap pengguna di bawah umur menjadi prioritas penting.
Perusahaan juga menyebut telah mengintegrasikan berbagai fitur keamanan untuk anak-anak secara langsung ke dalam produknya, termasuk teknologi pendeteksi usia pengguna dan fitur yang memungkinkan orang tua memantau penggunaan AI oleh anak mereka.
“Kami tahu bahwa menjelaskan berbagai upaya ini tidak akan mengembalikan seorang anak yang telah meninggal, tetapi kami berkomitmen untuk terus memperbaiki dan memastikan hal ini ditangani dengan benar,” ujar juru bicara OpenAI.
Gelombang Gugatan terhadap Industri AI
Gugatan dari Florida menambah daftar panjang perkara hukum yang saat ini dihadapi OpenAI terkait praktik keselamatan produknya.
Beberapa gugatan lain menuduh ChatGPT berperan sebagai “pelatih bunuh diri” dan memperkuat delusi berbahaya pada sebagian pengguna.
Keluarga sejumlah korban penembakan massal di Tumbler Ridge, Kanada, awal tahun ini juga menggugat OpenAI. Dalam kasus tersebut, OpenAI diketahui telah menutup akun ChatGPT milik tersangka karena pola penggunaan yang dianggap bermasalah, namun tidak melaporkannya kepada pihak berwenang.
Perusahaan telah meminta maaf karena tidak menghubungi polisi, tetapi menjelaskan bahwa aktivitas akun tersebut tidak memenuhi standar internal mereka untuk dikategorikan sebagai ancaman yang kredibel atau rencana serangan fisik yang segera terjadi.
Tekanan Hukum terhadap Raksasa Teknologi
OpenAI bukan satu-satunya perusahaan teknologi yang menghadapi tekanan hukum terkait dampak produknya.
Awal tahun ini, ayah seorang pria asal Florida menggugat Google dengan tuduhan bahwa produk AI utama perusahaan tersebut memperparah delusi yang dialami putranya hingga berujung pada bunuh diri.
Sementara itu, sejumlah perusahaan media sosial seperti Meta, Snap, TikTok, dan YouTube juga menghadapi gelombang gugatan dari pemerintah negara bagian, distrik sekolah, hingga individu yang menuduh platform-platform tersebut sengaja dirancang untuk menciptakan kecanduan.
Pada Maret lalu, Meta dan Google dinyatakan bertanggung jawab dalam sebuah perkara yang diajukan oleh seorang penggugat berusia 20 tahun yang menuduh kedua perusahaan sengaja membangun platform yang bersifat adiktif.
Putusan tersebut dianggap sebagai perubahan penting dalam lanskap hukum industri teknologi. Selama bertahun-tahun perusahaan teknologi berargumen bahwa mereka tidak bertanggung jawab atas konten yang dibuat pengguna. Namun kini, gugatan yang berfokus pada desain produk dan pilihan pengembangan teknologi mulai memperoleh pijakan yang lebih kuat di pengadilan.
Florida Berseberangan dengan Pemerintah Federal
Uthmeier dan Gubernur Florida Ron DeSantis, yang sama-sama berasal dari Partai Republik, dalam beberapa kesempatan mengambil posisi yang berbeda dengan perusahaan-perusahaan AI yang selama ini memperoleh dukungan kuat dari Presiden Amerika Serikat Donald Trump.
Florida juga menentang upaya pemerintah federal yang dianggap berusaha membatasi kewenangan negara bagian dalam mengatur teknologi AI.
Baru-baru ini, negara bagian tersebut mengusulkan sebuah “Bill of Rights untuk Kecerdasan Buatan” yang bertujuan memperkuat perlindungan data pribadi warga serta melindungi masyarakat dari dampak ekonomi negatif yang dapat ditimbulkan oleh pembangunan pusat data berskala besar.
Jika gugatan ini berlanjut ke pengadilan, kasus tersebut berpotensi menjadi salah satu ujian hukum paling penting bagi industri kecerdasan buatan, terutama terkait sejauh mana perusahaan AI dapat dimintai pertanggungjawaban atas tindakan pengguna yang memanfaatkan teknologi mereka.
