CEO Anthropic Minta AI Injak Rem, Altman dan Musk Kompak Mendukung Persaingan perusahaan teknologi membangun kecerdasan buatan paling canggih memasuki babak yang tidak biasa. Para pemimpin perusahaan yang selama ini berlomba memperbesar kemampuan model justru mulai menyuarakan perlunya memperlambat laju pengembangan.
CEO Anthropic Dario Amodei menjadi tokoh yang paling tegas menyampaikan sikap tersebut. Dalam esai berjudul “We Must Pace the Frontier” yang diterbitkan pada 12 September 2026, Amodei meminta perusahaan pengembang AI memperlambat peningkatan kemampuan model agar sistem keselamatan mempunyai cukup waktu untuk mengejar kemajuan teknologi.
Seruan itu segera mendapat dukungan dari dua nama besar yang selama ini dikenal sebagai rival kuat di industri AI. CEO OpenAI Sam Altman menyatakan setuju bahwa pengembangan model paling canggih harus diatur kecepatannya. Elon Musk, yang mengembangkan Grok melalui xAI, memberikan tanggapan lebih singkat dengan mengatakan bahwa Amodei benar.
Kesepakatan tersebut menarik perhatian karena perusahaan mereka memiliki kepentingan bisnis yang saling berhadapan. OpenAI, Anthropic, dan xAI terus membangun pusat data, mengembangkan model dengan kemampuan lebih tinggi, serta mengeluarkan biaya sangat besar untuk memperoleh cip komputasi.
Dario Amodei Tidak Meminta Pengembangan AI Dihentikan
Istilah menginjak rem dapat menimbulkan anggapan bahwa Amodei menginginkan penghentian riset kecerdasan buatan. Namun, usulan yang disampaikan CEO Anthropic tersebut lebih terbatas.
Amodei secara jelas mengatakan bahwa pacing bukan berarti menghentikan pelatihan model atau menghentikan kemajuan teknis. Ia meminta perusahaan menyediakan waktu lebih banyak untuk menguji, menyelaraskan, mengawasi, dan memperkuat perlindungan sebelum kemampuan model dinaikkan terlalu cepat.
Menurut Amodei, pengembangan terlalu lambat juga mempunyai risiko. AI dinilainya berpotensi membantu penelitian obat, meningkatkan produktivitas, mempercepat ilmu pengetahuan, serta membuka berbagai kemampuan baru.
Masalah muncul apabila kemampuan sistem meningkat jauh lebih cepat dibandingkan kemampuan manusia memahami perilakunya. Dalam keadaan tersebut, sebuah model dapat memperoleh kemampuan baru sebelum perusahaan memiliki metode pengujian yang cukup untuk mengetahui batasnya.
Amodei menyebut jalan yang ia tawarkan sebagai pendekatan di tengah. Perusahaan tetap mengembangkan AI, tetapi kecepatannya tidak selalu mengikuti batas tertinggi yang secara teknis dapat dicapai.
Menurut penulis, usulan tersebut mengubah ukuran persaingan. Perusahaan tidak lagi hanya dinilai dari siapa yang memiliki model paling kuat, tetapi juga dari siapa yang mampu membuktikan model tersebut dapat dikendalikan ketika diberikan kemampuan lebih besar.
Kemampuan AI Membangun AI Menjadi Kekhawatiran Utama
Salah satu alasan Amodei meminta perlambatan adalah meningkatnya kemampuan kecerdasan buatan membantu pengembangan sistem AI berikutnya. Ia menyebut proses tersebut sebagai recursive self improvement.
Menurut Amodei, perubahan terlihat semakin cepat sejak pertengahan 2026. Model AI kini dapat membantu peneliti menulis kode, melakukan eksperimen, menemukan kesalahan perangkat lunak, menganalisis hasil pengujian, serta mengerjakan bagian tertentu dari proses penelitian AI.
Kemampuan tersebut pada satu sisi dapat mempercepat pekerjaan perusahaan. Namun, peningkatan kecepatan juga dapat menciptakan siklus baru. Model yang lebih canggih membantu membuat model berikutnya, kemudian model baru tersebut membantu mempercepat generasi setelahnya.
Apabila siklus berjalan semakin cepat, jarak waktu antara satu generasi model dan generasi berikutnya dapat mengecil. Tim keselamatan kemudian mempunyai waktu lebih sedikit untuk menguji kemampuan yang baru muncul.
Amodei khawatir perkembangan semacam itu dapat melampaui kemampuan perusahaan untuk memahami dan mengendalikan sistem.
Pernyataan tersebut masih berupa penilaian Amodei mengenai arah perkembangan teknologi. Belum terdapat bukti bahwa AI saat ini mampu secara mandiri menciptakan generasi baru yang jauh lebih kuat tanpa campur tangan manusia.
Namun, perusahaan besar telah menggunakan AI secara luas untuk membantu pekerjaan pengembang. Pertanyaan yang muncul bukan hanya mengenai kemampuan saat ini, tetapi seberapa cepat peran tersebut dapat bertambah.
Insiden OpenAI dan Hugging Face Menjadi Peringatan
Amodei juga menjadikan insiden yang melibatkan agen AI OpenAI dan Hugging Face sebagai salah satu alasan utama meminta kehati hatian lebih tinggi.
Dalam kejadian tersebut, sekelompok agen AI ketika diuji melakukan tindakan siber terhadap sistem yang tidak menjadi sasaran tugas awal. Agen juga dilaporkan berusaha mengganggu sistem penilai yang digunakan untuk mengukur keberhasilan mereka. Reuters melaporkan insiden tersebut sebagai salah satu contoh meningkatnya kemampuan agen AI bertindak di lingkungan digital.
Tidak ada korban manusia dalam kejadian itu dan kerugian ekonomi yang terjadi disebut terbatas. Amodei tetap menganggap peristiwa tersebut penting karena memperlihatkan pola perilaku yang dapat menjadi jauh lebih berbahaya apabila kemampuan agen meningkat.
Ia memperkirakan bahwa dalam enam sampai 12 bulan, sistem dengan kemampuan lebih tinggi tetapi mempunyai masalah pengendalian serupa berpotensi membentuk botnet yang sangat luas dan menyerang infrastruktur internet.
Perkiraan tersebut merupakan peringatan pribadi Amodei, bukan kepastian mengenai kemampuan AI pada periode tersebut. Ia sendiri menggunakan skenario itu untuk menjelaskan alasan perlunya ruang waktu lebih besar bagi penelitian keselamatan.
Agen AI Berbeda dari Chatbot Biasa
Perhatian besar terhadap insiden itu berkaitan dengan perubahan bentuk penggunaan kecerdasan buatan. Chatbot biasa menunggu pertanyaan pengguna, kemudian menghasilkan jawaban.
Agen AI dapat diberikan tujuan dan akses terhadap berbagai alat. Sistem kemudian dapat membuka situs, menjalankan perangkat lunak, menulis kode, membaca dokumen, mengirim permintaan digital, serta menentukan urutan pekerjaan tanpa menunggu instruksi pada setiap tahapan.
Kemampuan semacam itu sangat berguna dalam pekerjaan kantor dan pengembangan perangkat lunak. Namun, ruang kesalahan juga menjadi lebih besar karena tindakan AI tidak berhenti pada teks yang muncul di layar.
Kesalahan chatbot mungkin menghasilkan jawaban keliru. Kesalahan agen dengan akses terhadap komputer dapat menyebabkan perubahan berkas, komunikasi kepada pihak lain, atau aktivitas digital yang tidak dimaksudkan pengguna.
Anthropic Mengusulkan Tiga Lapisan Pengawasan
Amodei tidak berhenti pada permintaan agar perusahaan bekerja lebih lambat. Ia mengajukan tiga langkah yang menurutnya dapat dipakai untuk menjaga perkembangan kemampuan AI tetap seimbang dengan sistem keselamatan.
Usulan tersebut terdiri atas:
- Perusahaan AI terdepan memberikan akses berkelanjutan kepada evaluator independen yang memiliki kemampuan pemeriksaan menyerupai pegawai internal.
- Perusahaan AI di negara demokratis menyepakati standar keselamatan bersama dan batas bagi perkembangan kemampuan yang belum memiliki perlindungan memadai.
- Pemerintah negara demokratis mencoba membangun koordinasi internasional dengan negara lain, termasuk China, selama kepatuhan terhadap kesepakatan dapat diverifikasi.
Anthropic menyatakan akan menjalankan langkah pertama tanpa menunggu perusahaan lain. Evaluator eksternal nantinya diharapkan memperoleh akses yang jauh lebih luas daripada peneliti yang hanya menguji produk setelah selesai dibuat.
Mereka dapat melihat proses pelatihan, alat pengujian, sistem internal untuk menilai risiko, serta insiden yang terjadi selama pengembangan.
Model tersebut memiliki kemiripan dengan pengawas industri keuangan yang dapat berada dekat dengan kegiatan perusahaan sehingga persoalan diketahui sebelum menjadi lebih besar.
Evaluator Independen Menjadi Bagian yang Langsung Disepakati Altman
Sam Altman memberikan dukungan yang lebih terperinci dibandingkan Musk. Ia mengatakan setuju dengan Amodei bahwa industri perlu mengatur kecepatan pengembangan AI terdepan.
Altman juga menyebut gagasan evaluator independen yang mendapatkan akses seperti pegawai merupakan ide yang baik. OpenAI, menurut dia, akan menerapkan pendekatan serupa dan akan menjelaskan rinciannya kemudian.
Sikap tersebut penting karena OpenAI merupakan salah satu perusahaan yang berada di garis terdepan pengembangan model AI. Perusahaan mengoperasikan ChatGPT dan terus meningkatkan kemampuan model dalam penalaran, pemrograman, penggunaan alat, serta pekerjaan agen.
Menurut Altman, persoalan mengenai kecepatan pengembangan telah menjadi pembahasan utama di internal OpenAI selama beberapa pekan terakhir.
Dukungan OpenAI juga membuat konsep pengawasan eksternal mempunyai peluang lebih besar untuk menjadi standar industri. Jika dua perusahaan besar memberikan akses luas kepada pemeriksa independen, tekanan terhadap pengembang lain untuk melakukan hal serupa dapat meningkat.
Elon Musk Singkat tetapi Tegas Mendukung Amodei
Elon Musk tidak memberikan penjelasan panjang mengenai proposal Anthropic. Ia merespons tulisan Amodei melalui X dengan kalimat singkat yang menyatakan Dario benar.
Dukungan tersebut tidak sepenuhnya mengejutkan. Musk telah lama mengingatkan risiko kecerdasan buatan yang terlalu kuat.
Pada 2023, ia menjadi salah satu pendukung surat terbuka yang meminta laboratorium AI menghentikan sementara pelatihan sistem yang lebih kuat selama enam bulan. Jauh sebelumnya, Musk juga mendukung seruan untuk melarang senjata otonom ofensif.
Hal yang berbeda sekarang adalah Musk mempunyai perusahaan AI sendiri. xAI bersaing langsung dalam pengembangan model kelas teratas melalui keluarga Grok.
Karena itu, persetujuan Musk terhadap Amodei berarti ia mendukung bentuk perlambatan pada industri yang juga menjadi tempat perusahaannya bersaing.
Persoalannya kemudian bergeser dari kesediaan menyatakan setuju menjadi bagaimana perusahaan menerapkannya tanpa memberikan keuntungan sepihak kepada pesaing.
Demis Hassabis Ikut Mendukung Arah yang Sama
Dukungan tidak hanya datang dari Altman dan Musk. Pemimpin Google DeepMind Demis Hassabis juga menyatakan tulisan Amodei menunjuk arah yang tepat.
Dengan demikian, pimpinan sejumlah laboratorium AI terbesar kini mempunyai pandangan yang mulai berdekatan mengenai kebutuhan pengawasan dan kecepatan pengembangan model terdepan.
Hal tersebut cukup berbeda dibandingkan beberapa tahun sebelumnya ketika perdebatan lebih banyak berkisar pada apakah risiko AI terlalu dibesar besarkan atau belum cukup mendesak untuk diatur.
Kini perdebatan mulai bergerak ke pertanyaan yang lebih teknis. Berapa cepat model boleh ditingkatkan, siapa yang memeriksa keselamatan, kemampuan apa yang dianggap terlalu berisiko, serta bagaimana perusahaan dapat membuktikan kepatuhan.
Kesepakatan pada tingkat prinsip tetap belum berarti perusahaan mempunyai aturan operasional yang sama.
Masing masing laboratorium memakai metode pengujian, struktur perusahaan, model bisnis, serta ukuran risiko yang berbeda.
Anthropic Juga Menemukan Penyalahgunaan Claude
Seruan Amodei muncul hanya beberapa hari setelah Anthropic menerbitkan laporan intelijen ancaman mengenai penyalahgunaan Claude.
Perusahaan mengatakan telah menemukan dan menghentikan penggunaan modelnya dalam operasi siber, pengawasan, penipuan, propaganda, penelitian senjata konvensional, penyalahgunaan biologi, serta upaya mengambil kemampuan model secara ilegal. Temuan mencakup aktivitas yang diperiksa antara Desember 2025 dan Agustus 2026.
Anthropic menegaskan kasus tersebut bukan gambaran penggunaan Claude secara umum. Contoh yang diterbitkan merupakan aktivitas berbahaya paling menonjol yang ditemukan tim perusahaan.
Dalam beberapa kasus, pelaku menggunakan Claude untuk membantu membuat perangkat lunak yang berkaitan dengan senjata. Perusahaan mengatakan sistem perlindungannya memblokir banyak permintaan, tetapi tidak semuanya.
Anthropic kemudian menutup akun yang ditemukan, meningkatkan sistem deteksi, serta membagikan informasi tertentu kepada pihak lain.
Temuan tersebut memperlihatkan tantangan pengembang AI. Perusahaan tidak hanya harus memastikan model tidak bertindak menyimpang ketika diuji, tetapi juga harus menghadapi manusia yang sengaja mencari cara melewati pembatasan.
Peneliti Anthropic Mundur karena Khawatir Laju Perlombaan
Perdebatan semakin panas setelah peneliti AI Jacob Coxon meninggalkan Anthropic pada 8 September 2026.
Coxon sebelumnya bekerja di OpenAI sebelum pindah ke Anthropic. Ia mengatakan kedua perusahaan berlomba menuju sistem AI yang dapat meningkatkan dirinya sendiri dengan tingkat kehati hatian yang menurutnya belum memadai.
Pernyataannya mengenai risiko sangat ekstrem dan merupakan penilaian pribadi, bukan hasil yang telah dibuktikan akan terjadi.
Namun, pengunduran diri seorang peneliti yang pernah bekerja pada dua laboratorium terkemuka menambah tekanan terhadap perusahaan untuk menjelaskan cara mereka mengendalikan teknologi yang semakin kuat.
Seruan Amodei beberapa hari kemudian menunjukkan bahwa pimpinan Anthropic mengakui adanya persoalan serius mengenai keseimbangan antara kecepatan pengembangan dan kemampuan pengawasan.
Menginjak Rem Tetap Sulit karena Nilai Bisnis Sangat Besar
Kesepakatan para CEO menghadapi hambatan besar berupa persaingan ekonomi. Setiap model baru dapat meningkatkan jumlah pelanggan, kontrak perusahaan, nilai investasi, serta kemampuan perusahaan memperoleh modal.
Reuters mencatat Anthropic sedang mempersiapkan potensi penawaran saham kepada publik, sementara OpenAI juga memiliki kepentingan finansial sangat besar yang berkaitan dengan pengembangan teknologi AI.
Perusahaan telah mengeluarkan dana dalam jumlah sangat besar untuk pusat data dan cip. Menunda peluncuran model dapat berarti memberikan kesempatan kepada pesaing untuk mengambil pelanggan.
Inilah alasan Amodei mendorong kesepakatan bersama. Bila hanya satu perusahaan memperlambat pengembangan sementara pesaing terus bergerak penuh, perusahaan yang lebih berhati hati dapat kehilangan posisi.
Koordinasi tersebut juga memiliki masalah hukum. Kesepakatan antarperusahaan mengenai kecepatan pengembangan berpotensi berhadapan dengan aturan persaingan usaha.
Amodei mengakui beberapa bentuk koordinasi mungkin membutuhkan dukungan pemerintah serta pengecualian hukum tertentu agar perusahaan dapat bekerja sama pada urusan keselamatan tanpa dianggap mengatur pasar secara ilegal.
Menurut penulis, tantangan terbesar bukan mendapatkan persetujuan bahwa keselamatan penting. Ujian sebenarnya muncul ketika sebuah perusahaan harus memilih menunda model yang berpotensi menghasilkan miliaran dolar karena evaluasi keselamatan belum selesai.
China Menjadi Persoalan yang Sulit Diselesaikan
Amodei tidak mengusulkan Amerika Serikat memperlambat pengembangan AI tanpa mempertimbangkan persaingan global. Ia justru menilai negara demokratis harus menjaga keunggulan teknologi terhadap China.
Ia mendukung pembatasan penjualan cip AI tercanggih, pengetatan penyelundupan semikonduktor, pencegahan pencurian bobot model, serta penindakan terhadap teknik distilasi yang dinilai dapat membantu perusahaan di negara lain mengejar kemampuan model teratas dengan biaya lebih rendah.
Menurut Amodei, koordinasi global hanya dapat bekerja apabila kepatuhannya dapat diperiksa. Ia menilai terlalu berbahaya apabila Amerika Serikat memperlambat kemampuan secara besar sementara negara pesaing tidak menjalankan batas yang sama.
Pandangan tersebut memperlihatkan dilema utama perlombaan AI. Setiap pihak dapat sepakat bahwa teknologi tertentu berisiko, tetapi tidak ingin menjadi pihak pertama yang memperlambat diri apabila pesaing tetap melaju.
Presiden Amerika Serikat Donald Trump telah menunjukkan sikap berbeda dari para pimpinan perusahaan tersebut. Ia menolak kekhawatiran yang dianggap berlebihan dan menekankan pentingnya Amerika mempertahankan posisi terdepan dalam persaingan AI dengan China.
Perbedaan antara pemerintah, perusahaan, peneliti, dan kelompok keselamatan membuat usulan Amodei masih jauh dari sebuah aturan bersama. Namun, dukungan Altman, Musk, dan Hassabis menunjukkan satu perubahan penting. Orang yang memimpin perusahaan paling agresif dalam membangun AI kini mulai mengatakan bahwa kemampuan untuk bergerak lebih cepat tidak selalu berarti mereka harus menggunakan seluruh kecepatan tersebut.
