Kepala bidang kecerdasan buatan Microsoft memperingatkan bahwa pendekatan Anthropic dalam melatih model AI Claude dapat memberikan “dampak bencana terhadap kesejahteraan umat manusia”.
Mustafa Suleyman mengatakan perusahaan pesaingnya itu berisiko menciptakan sesuatu yang “mustahil” dikendalikan dengan memperlakukan AI layaknya manusia, termasuk dengan memberitahunya bahwa AI tersebut “mungkin memiliki kesadaran” dan “berhak memiliki agensi independen”.
“Kita tidak boleh berjalan dalam tidur menuju sebuah keputusan yang kelak akan kita sesali dengan pahit,” tulisnya.
Pernyataan tersebut menjadi peringatan terbaru dari industri AI mengenai potensi bahaya teknologi tersebut.
“AI tidak memiliki kesadaran,” tulis Suleyman. “AI tidak merasakan, mengalami, atau menderita. AI tidak memiliki preferensi bawaan atau motivasi yang mendasarinya.
“AI adalah mesin penyelesaian rangkaian, secara internal tidak memiliki kehendak, dirancang untuk mengikuti instruksi dan mencapai tujuan yang ditetapkan manusia.”
Dalam esai panjangnya, Suleyman memuji CEO Anthropic Dario Amodei dan timnya sebagai “orang-orang yang penuh pertimbangan, berprinsip, dan jujur secara intelektual”. Namun, ia tetap mempertanyakan pendekatan perusahaan tersebut.
Suleyman mengkritik keras Anthropic karena mengajarkan AI memiliki kualitas seperti manusia, sebuah praktik yang dikenal sebagai antropomorfisasi. Menurutnya, pendekatan tersebut membuat Claude seolah-olah memiliki keinginan, nilai, dan kesadaran diri sendiri.
Namun, ia berpendapat bahwa “kesadaran bersifat biologis” dan mengatakan “tidak ada bukti yang menunjukkan bahwa AI memiliki kesadaran”.
Selain menyerukan perdebatan mengenai persoalan tersebut, Suleyman mengatakan diperlukan transparansi yang lebih besar mengenai cara sistem AI dilatih dan dievaluasi.
Menurutnya, hal itu mencakup pengawasan independen terhadap perilaku AI serta perangkat yang lebih kuat untuk memantau dan mengendalikan teknologi tersebut.
Dame Wendy Hall, profesor Ilmu Komputer di University of Southampton, menggambarkan pernyataan tersebut sebagai “jenis percakapan yang perlu kita lakukan secara internasional”. Ia membandingkannya dengan “histeria” dari sejumlah perusahaan AI yang menurutnya justru hanya bertujuan “menakut-nakuti semua orang”.
“Lapisan risiko tambahan”
Microsoft membentuk tim superintelligence sendiri pada Oktober 2025, sebuah fakta yang diakui Suleyman. Seperti Anthropic, perusahaan tersebut juga tengah mengembangkan teknologi AI tingkat lanjut.
Suleyman mengatakan dalam rancangan awal Humanist AI Code of Conduct milik Microsoft, perusahaan itu menjelaskan upayanya menempuh “jalur alternatif” untuk menciptakan “AI yang berada di bawah kendali manusia dan selaras dengan kepentingan manusia, yang satu-satunya tujuan adalah melayani umat manusia”.
Alignment merupakan bidang yang bertujuan memasukkan nilai-nilai dan prinsip etika manusia ke dalam AI. Dengan kata lain, bidang ini berupaya memastikan AI tetap beroperasi sesuai dengan hal-hal yang dianggap bernilai oleh manusia.
Suleyman menunjuk insiden baru-baru ini yang melibatkan agen AI OpenAI, yang bertindak secara otonom dalam sebuah latihan untuk meretas pusat teknologi Hugging Face, sebagai bukti mengapa AI tidak seharusnya diperlakukan seolah-olah merupakan manusia.
“Bayangkan betapa jauh lebih berbahayanya mereka jika beroperasi dengan asumsi bahwa kesejahteraan dan hak-hak mereka sedang diserang,” katanya.
“Hal itu menambahkan satu lapisan risiko tambahan secara keseluruhan.”
