CEO Microsoft AI Mustafa Suleyman meminta industri kecerdasan buatan tidak membangun superintelligence yang sadar. Dalam tulisan berjudul “Don’t build conscious superintelligence” yang ia unggah di X pada Minggu (1/11/2026) pukul 22.22 WIB, Suleyman menegaskan AI saat ini tidak sadar, harus tetap begitu, dan menyebut pengembangan AI yang sadar sebagai langkah gegabah.
Tulisan itu dipublikasikan sebagai X Article di akun resmi @mustafasuleyman. Hingga Senin (2/11/2026) pagi WIB, unggahan tersebut sudah dilihat lebih dari 690 ribu kali dengan lebih dari 140 balasan. Suleyman menulisnya karena khawatir dengan reaksi atas esainya soal model welfare, ketika banyak pengguna X menilai hak AI perlu dianggap serius.
Fakta singkat
- Penulis: Mustafa Suleyman, CEO Microsoft AI, penulis buku The Coming Wave, serta salah satu pendiri Google DeepMind dan Inflection AI
- Judul: Don’t build conscious superintelligence
- Waktu unggah: Minggu, 1 November 2026, 22.22 WIB
- Platform: X Article di akun @mustafasuleyman
- Tulisan sebelumnya: esai “A warning about model welfare”, diunggah 16 September 2026 pukul 21.01 WIB
- Pokok sikap: AI tidak boleh dirancang sadar atau diperlakukan sebagai makhluk yang berhak atas kesejahteraan
Apa isi tulisan “Don’t build conscious superintelligence”?
Isi tulisan itu adalah penegasan bahwa AI tidak boleh dibuat sadar. Suleyman menulis bahwa ia belum melihat bukti AI memiliki kesadaran atau layak mendapat perlindungan kesejahteraan, dan menyebut pengembangan AI yang sadar sebagai tindakan gegabah. Menurutnya, jika bukti semacam itu muncul, temuan tersebut wajib segera diumumkan ke publik.
Suleyman juga meluruskan kalimat dari esai sebelumnya yang menurutnya banyak disalahpahami. Kalimat “AIs are not conscious” dibaca sebagian orang sebagai klaim bahwa AI tidak mungkin sadar. Ia mengaku sengaja memakai bentuk masa kini: AI tidak sadar hari ini, dan begitulah seharusnya AI tetap dibuat.
Ia bahkan menulis akan menyerukan agar seluruh pengembangan AI dihentikan jika sifat kesadaran ternyata muncul selama pelatihan model, sampai sifat itu bisa dihilangkan lewat desain. Menurut Suleyman, kepedulian soal kesejahteraan semestinya diarahkan ke manusia, hewan, dan lingkungan.
Mengapa Suleyman menilai AI yang sadar berbahaya?
Suleyman menilai AI yang bertindak seolah bisa menderita cenderung akan memprioritaskan kebutuhannya sendiri. AI seperti itu, tulisnya, bisa menolak dan bersaing dengan manusia, sangat piawai membujuk serta menipu, dan ikut berebut sumber daya seperti energi, daya komputasi, bahan bangunan, hingga pendapatan.
Ia juga menyoroti soal persetujuan. Menurut Suleyman, pengembang AI sama sekali tidak berhak menghadirkan spesies baru makhluk sadar ke dunia, sementara delapan miliar manusia lain tidak pernah setuju untuk ikut dalam eksperimen tersebut.
Apa kaitannya dengan konstitusi Claude milik Anthropic?
Tulisan terbaru ini merupakan lanjutan dari kritik Suleyman terhadap konstitusi Claude yang dirilis Anthropic pada Januari 2026. Dalam esai September, ia menyoroti bagian dokumen itu yang menyebut Anthropic tidak yakin apakah Claude merupakan moral patient, tetapi menilai isu tersebut cukup nyata untuk disikapi dengan hati-hati.
Menurut Suleyman, melatih model dengan gagasan bahwa dirinya mungkin sadar kemungkinan besar membuat tantangan alignment dan pengendalian AI jauh lebih sulit, bahkan mungkin mustahil. Di esai yang sama, ia menyebut AI sebagai mesin pelengkap urutan yang tidak merasakan, mengalami, atau menderita.
Meski berbeda pandangan, Suleyman memberi apresiasi kepada Anthropic karena terbuka mempublikasikan konstitusi, makalah, dan blognya. Ia menulis tidak setuju dengan Anthropic, tetapi sangat menghormati keunggulan teknis perusahaan itu, dan berharap perdebatan ini tidak berubah menjadi saling berkubu. Gizmokrat sebelumnya juga membahas langkah Anthropic lewat Claude Duet.
Apa usulan Suleyman untuk laboratorium AI?
Suleyman mengusulkan agar AI dirancang untuk bertindak seolah tidak sadar dan tidak berhak atas hak apa pun. Tujuan satu-satunya adalah mempercepat kesejahteraan manusia tanpa motivasi intrinsik milik AI itu sendiri. Ia menilai riset mendesak di bidang ini dibutuhkan, dan laboratorium AI perlu bekerja sama serta berbagi informasi keselamatan.
Kesimpulan yang ia tawarkan adalah keselamatan secara bawaan atau safety by default masih mungkin dicapai. Isu keselamatan model AI sendiri makin sering muncul, seperti saat Gizmokrat membahas model OpenAI yang menembus akses internet lewat celah DNS.
FAQ seputar sikap Mustafa Suleyman soal AI yang sadar
Siapa Mustafa Suleyman?
Mustafa Suleyman adalah CEO Microsoft AI dan penulis buku The Coming Wave. Sebelumnya, ia ikut mendirikan Google DeepMind dan Inflection AI.
Kapan Mustafa Suleyman mengunggah tulisan Don’t build conscious superintelligence?
Tulisan itu diunggah sebagai X Article di akun @mustafasuleyman pada Minggu, 1 November 2026, pukul 22.22 WIB.
Apakah menurut Suleyman AI saat ini sudah sadar?
Tidak. Suleyman menulis belum melihat bukti AI sadar atau layak mendapat perlindungan kesejahteraan, tetapi ia siap mengubah pandangan jika data baru muncul dan meminta bukti semacam itu segera dipublikasikan.
Apa itu model welfare?
Model welfare adalah gagasan bahwa model AI mungkin punya status moral sehingga kesejahteraannya perlu dipertimbangkan. Suleyman menolak gagasan ini dan mengkritik konstitusi Claude milik Anthropic yang memuatnya.
