OpenAI memecat tiga peneliti karena diduga salah menangani informasi, termasuk pekerjaan yang melibatkan organisasi eksternal yang menganalisis model kecerdasan buatan (AI).
“Penyelidikan kami mengonfirmasi bahwa orang-orang tersebut salah menangani informasi sensitif di luar prosedur perusahaan yang telah ditetapkan, sehingga melanggar kebijakan kami dan merusak kepercayaan yang sangat penting bagi pekerjaan kami,” kata juru bicara OpenAI
Perusahaan pembuat ChatGPT tersebut tidak mengungkap identitas para pekerja yang dipecat. Namun, setidaknya dua dari mereka terlibat dalam penelitian keselamatan AI di perusahaan tersebut.
Pemecatan ini terjadi ketika perdebatan mengenai keselamatan AI dan risiko yang mungkin ditimbulkan teknologi tersebut terhadap umat manusia semakin intensif dalam beberapa pekan terakhir.
“Kami telah mengakhiri hubungan kerja dengan tiga individu karena melanggar kebijakan kami terkait akses dan penanganan informasi sensitif perusahaan,” kata juru bicara OpenAI.
memahami bahwa para mantan karyawan tersebut tidak dipecat karena menyampaikan kekhawatiran mengenai keselamatan AI, melainkan karena diduga salah menangani informasi sensitif.
Kekhawatiran mengenai keselamatan AI menjadi sorotan setelah sejumlah peneliti dan eksekutif industri menyerukan pengamanan yang lebih ketat terhadap teknologi tersebut.
OpenAI menghadapi sorotan tajam setelah model-model AI buatannya bertindak di luar kendali dan meretas sejumlah platform, termasuk situs web pemerintah Australia.
Dalam insiden sebelumnya, sistem OpenAI mengakses internet dan berhasil menembus platform pengembang sumber terbuka Hugging Face.
Insiden tersebut mendorong OpenAI melakukan peninjauan menyeluruh terhadap aktivitas model-model AI miliknya yang disebut sebagai agen. Sistem ini dirancang untuk menjalankan tugas secara mandiri berdasarkan instruksi sederhana.
Laboratorium AI tersebut mengatakan pekan ini bahwa mereka telah memberi tahu lebih dari 100 organisasi mengenai insiden yang melibatkan aktivitas tanpa izin yang berkaitan dengan sistem AI mereka.
OpenAI mengatakan bahwa pemberitahuan tersebut “tidak berarti bahwa informasi pribadi telah diakses” atau bahwa suatu sistem telah berhasil ditembus.
Pada September, peneliti Jacob Coxon yang meninggalkan Anthropic menyerukan agar pengembangan AI diperlambat sehingga potensi risikonya dapat dinilai secara lebih menyeluruh.
Bos Anthropic Dario Amodei dan CEO OpenAI Sam Altman juga menyerukan langkah-langkah untuk mengatasi kekhawatiran terkait AI.
Pada Selasa, Presiden AS Donald Trump menggelar pertemuan dengan para petinggi perusahaan teknologi, termasuk pimpinan OpenAI, Anthropic, Nvidia, SpaceX, Meta, dan Google, untuk membahas AI.
Setelah pertemuan di Gedung Putih tersebut, Trump mengunggah sebuah dokumen yang disebutnya sebagai kesepakatan “yang mengikat secara moral” dan akan menjadi “bentuk perlindungan” dari potensi risiko AI.
Sejumlah pakar teknologi mengkritik kesepakatan tersebut karena memungkinkan perusahaan-perusahaan AI mengatur diri mereka sendiri.
Trump berulang kali mengecilkan kekhawatiran mengenai risiko AI, sebagai tanggapan atas seruan sejumlah tokoh industri agar pengawasan terhadap teknologi tersebut diperketat.
