Ribuan Pekerja AI Surati AS, Minta Rem Darurat bagi Teknologi Canggih Lebih dari 1.300 pegawai perusahaan kecerdasan buatan terkemuka mengirimkan pesan terbuka kepada pemerintah Amerika Serikat. Mereka meminta Washington mendukung kerja sama internasional untuk menyiapkan perangkat teknis dan tata kelola yang dapat mengendalikan laju pengembangan AI paling canggih apabila kemampuannya meningkat terlalu cepat.
Surat bertajuk Pacing the Frontier itu telah memperoleh 1.324 tanda tangan pada akhir Juli 2026. Para penandatangan berasal dari perusahaan seperti OpenAI, Anthropic, Google DeepMind, Meta, Thinking Machines, dan sejumlah laboratorium lain. Daftarnya mencakup peneliti, teknisi, pemimpin keselamatan AI, pendiri perusahaan, hingga ilmuwan kepala.
Judul yang menyebut ribuan peneliti perlu dipahami secara lebih tepat. Tidak semua penandatangan bekerja sebagai peneliti. Mereka merupakan pegawai perusahaan AI garis depan dengan tanggung jawab yang beragam. Meski demikian, sejumlah nama yang bergabung memang menduduki posisi penting dalam penelitian, pengembangan model, keamanan, serta pengujian sistem.
Kekhawatiran utama mereka bukan sekadar AI menghasilkan tulisan palsu atau mengambil sebagian pekerjaan manusia. Surat tersebut menyoroti kemungkinan AI digunakan untuk mengotomatisasi penelitian AI itu sendiri. Ketika mesin dapat merancang eksperimen, menulis kode, mengevaluasi hasil, dan membantu membuat model yang lebih canggih, kecepatan pengembangan dikhawatirkan melampaui kemampuan manusia dalam memahami serta mengendalikannya.
Surat Tidak Meminta Seluruh Pengembangan AI Dihentikan
Isi surat tersebut lebih terbatas daripada seruan penghentian total teknologi AI. Para penandatangan tidak meminta pemerintah menutup laboratorium, melarang penggunaan chatbot, atau menghentikan seluruh pelatihan model baru.
Mereka meminta pemerintah Amerika Serikat mendukung upaya internasional untuk membangun kemampuan mengatur kecepatan pengembangan AI otomatis. Tujuannya adalah menyediakan pilihan untuk membeli waktu ketika risiko baru muncul, sistem keamanan belum siap, atau pengawasan tertinggal dari kemampuan model.
Waktu tambahan tersebut dapat digunakan untuk menguji sistem, memperbaiki perlindungan digital, menyusun aturan, melatih lembaga pengawas, dan memastikan perusahaan mampu menghentikan model yang menunjukkan perilaku berbahaya.
Surat itu tidak menyatakan bahwa perlambatan harus langsung dilakukan sekarang. Para penandatangan lebih menekankan pentingnya mempersiapkan mekanisme sebelum keadaan mendesak muncul. Tanpa perangkat yang telah disepakati, keputusan untuk memperlambat pengembangan dapat terlambat karena perusahaan dan pemerintah masih harus berdebat ketika kemampuan AI sudah berubah jauh.
“Permintaan tersebut bukan ajakan mematikan inovasi. Para pekerja AI sedang meminta agar dunia mempunyai pedal rem sebelum kendaraan teknologinya melaju lebih cepat daripada kemampuan manusia mengarahkannya.”
Nama Besar Industri Ikut Membubuhkan Tanda Tangan
Sejumlah tokoh penting berada dalam daftar penandatangan. Mereka antara lain Kepala Ilmuwan OpenAI Jakub Pachocki, Kepala Riset OpenAI Mark Chen, Kepala Ilmuwan Meta AI Shengjia Zhao, serta pendiri Google DeepMind Shane Legg.
Nama lain mencakup CEO Anthropic Dario Amodei, pendiri Anthropic Jack Clark, Jared Kaplan, Benjamin Mann, dan Chris Olah. Ilya Sutskever yang memimpin Safe Superintelligence juga ikut menandatangani, begitu pula Kepala Ilmuwan Thinking Machines John Schulman.
Keterlibatan mereka membuat surat ini berbeda dari petisi yang hanya datang dari kelompok di luar industri. Para penandatangan bekerja di lingkungan yang membangun, menguji, mengamankan, atau menggunakan model paling kuat.
Namun, tanda tangan tersebut tidak selalu mewakili posisi resmi perusahaan tempat mereka bekerja. Situs surat menjelaskan komentar pribadi para penandatangan tidak harus dianggap sebagai pandangan perusahaan. Pengumpulan dan verifikasi tanda tangan memperoleh dukungan dari dua organisasi nirlaba, Guidelight AI Standards dan Encode AI.
Setiap penandatangan diminta memakai surat elektronik perusahaan atau menyerahkan bukti pekerjaan untuk menjalani verifikasi. Langkah tersebut digunakan untuk mencegah nama palsu dan memastikan surat benar benar memperoleh dukungan dari orang yang berada di dalam industri.
AI Dikhawatirkan Mulai Membantu Membangun Penerusnya
Istilah yang menjadi pusat pembicaraan adalah penelitian dan pengembangan AI otomatis. Dalam skenario ini, sistem AI tidak hanya membantu pengguna menulis dokumen atau mencari informasi, tetapi ikut menjalankan pekerjaan yang biasanya dilakukan peneliti AI.
Kemampuannya dapat mencakup penulisan kode pelatihan, pencarian kesalahan perangkat lunak, penyusunan percobaan, pengujian arsitektur model, pembuatan data sintetis, analisis hasil, dan pemilihan metode yang dinilai paling menjanjikan.
Model saat ini telah banyak digunakan sebagai asisten pemrograman. Tahap berikutnya adalah sistem yang dapat menyelesaikan rangkaian pekerjaan lebih panjang dengan campur tangan manusia yang semakin sedikit. AI dapat menjalankan eksperimen, memeriksa hasil, mengubah pendekatan, lalu mencoba kembali.
Anthropic menyebut proses tersebut sebagai pengembangan diri berulang. Perusahaan itu menjelaskan bahwa otomatisasi penelitian AI dapat mempercepat pembuatan sistem yang lebih canggih. Apabila model baru kemudian membantu membuat generasi berikutnya, peningkatan kemampuan dapat membentuk siklus yang semakin cepat.
Dalam jajak pendapat internal pada Maret 2026 terhadap 130 pegawai riset Anthropic, nilai tengah responden memperkirakan produktivitas mereka menjadi sekitar empat kali lebih besar ketika menggunakan model internal tertentu untuk pekerjaan yang tetap akan mereka lakukan. Angka tersebut berasal dari penilaian pegawai sendiri, sehingga tidak dapat dianggap sebagai pengukuran yang berlaku untuk semua laboratorium.
Kemajuan Cepat Belum Berarti Mesin Bisa Berkembang Sendiri Sepenuhnya
Kekhawatiran para penandatangan tidak boleh diartikan bahwa AI saat ini telah mampu memperbaiki dirinya tanpa batas. Sistem masih membutuhkan pusat data, chip, listrik, data, perangkat lunak, izin akses, dan keputusan manusia.
Model juga masih dapat memberikan jawaban yang salah, gagal menyelesaikan tugas panjang, kehilangan arah, atau tidak memahami akibat tindakannya. Kemampuan tinggi pada suatu pengujian tidak otomatis membuat sistem andal dalam lingkungan dunia nyata.
International AI Safety Report 2026 menyebut otomatisasi penelitian AI dapat mempercepat perkembangan teknologi, tetapi bukti ilmiahnya masih terbatas. Laporan yang disusun lebih dari 100 ahli tersebut juga mencatat ketidakpastian mengenai seberapa cepat otomatisasi dapat terjadi dan seberapa besar percepatan yang dihasilkannya.
Perbedaan penilaian ini penting. Sebagian peneliti melihat peningkatan kemampuan sebagai alasan untuk segera membangun sistem pengaman. Sebagian lain menilai skenario kecerdasan yang berkembang sangat cepat belum mempunyai bukti cukup untuk dijadikan pusat seluruh kebijakan.
Keduanya dapat bertemu pada satu kebutuhan, yaitu pengukuran yang lebih baik. Pemerintah memerlukan hasil evaluasi yang dapat diuji, bukan hanya janji perusahaan atau perkiraan paling menakutkan.
Perlombaan Antarperusahaan Menjadi Persoalan Utama
Surat tersebut menilai persaingan membuat perusahaan sulit memperlambat pengembangan secara sepihak. Sebuah laboratorium yang menunda pelatihan model dapat kehilangan pengguna, investasi, tenaga ahli, dan posisi pasar apabila pesaingnya terus bergerak.
Tekanan serupa terjadi antarnegara. Amerika Serikat ingin mempertahankan keunggulan atas China, sedangkan negara lain tidak ingin seluruh teknologi penting dikendalikan perusahaan Amerika. Setiap pihak mempunyai alasan untuk terus mempercepat pembangunan pusat data dan pelatihan model.
Keadaan itu menciptakan persoalan koordinasi. Banyak pihak mungkin setuju bahwa perlambatan diperlukan ketika risiko melewati batas tertentu, tetapi tidak ada yang ingin menjadi satu satunya pihak yang mengurangi kecepatan.
Para penandatangan karena itu meminta keterlibatan pemerintah AS dalam kerja sama internasional. Kesepakatan yang hanya mengikat satu perusahaan akan mudah gagal. Aturan yang hanya diterapkan satu negara juga berisiko memindahkan pelatihan model ke wilayah lain.
John Schulman menyatakan dukungannya karena surat tersebut membantu membangun pemahaman bersama mengenai kebutuhan mekanisme koordinasi. Ia juga mendorong laboratorium mulai merancang mekanisme secara sukarela sebelum pemerintah AS terlibat lebih jauh.
Perangkat Teknis Diperlukan Sebelum Rem Bisa Digunakan
Surat Pacing the Frontier tidak menjelaskan rancangan akhir perangkat yang harus dibuat. Pernyataannya sengaja singkat dan berpusat pada kebutuhan membangun pilihan untuk memperlambat pengembangan apabila diperlukan.
Perangkat teknis dapat berupa metode untuk mengukur kemampuan model dalam pemrograman, serangan siber, penelitian ilmiah, tindakan mandiri, serta kemampuan menghindari pengawasan. Pengujian harus dilakukan sebelum peluncuran dan diulang ketika model memperoleh pembaruan.
Sistem pemantauan juga diperlukan untuk mengetahui kapan sebuah pelatihan besar dilakukan, berapa banyak komputasi yang digunakan, dan apakah model mendekati tingkat kemampuan tertentu. Informasi tersebut tidak harus dibuka seluruhnya kepada publik, tetapi lembaga yang berwenang membutuhkan akses agar dapat memeriksa klaim perusahaan.
Pemerintah AS pada Juni 2026 telah mengeluarkan perintah yang membuka ruang bagi akses federal terhadap model garis depan tertentu hingga 30 hari sebelum peluncurannya kepada mitra lain. Akses tersebut harus disertai perlindungan kerahasiaan, keamanan digital, serta kekayaan intelektual.
Langkah tersebut belum sama dengan mekanisme perlambatan internasional. Namun, pemeriksaan sebelum peluncuran dapat menjadi salah satu unsur awal karena pemerintah memperoleh waktu untuk menilai kemampuan yang berhubungan dengan keamanan nasional.
Aturan Harus Menentukan Kapan Perlambatan Dilakukan
Rem tidak berguna apabila tidak ada batas yang menjelaskan kapan ia harus digunakan. Pemerintah, perusahaan, dan ilmuwan perlu menyepakati ukuran yang dapat diuji.
Batas itu dapat berhubungan dengan kemampuan AI menjalankan serangan digital tanpa bantuan, membantu pembuatan senjata berbahaya, menyembunyikan tindakan dari pengawas, atau mengambil alih pekerjaan penelitian AI dalam jangka panjang.
Setelah batas tercapai, tindakan yang tersedia dapat berbeda. Pemerintah mungkin meminta pengujian tambahan, memperketat keamanan pusat data, membatasi akses model, menunda peluncuran, atau menghentikan pelatihan untuk waktu tertentu.
Aturan juga perlu menjelaskan siapa yang mempunyai wewenang mengambil keputusan. Menyerahkannya sepenuhnya kepada perusahaan dapat memunculkan benturan kepentingan karena penundaan berarti kehilangan pendapatan dan posisi pasar.
Sebaliknya, menyerahkan keputusan kepada lembaga yang tidak mempunyai tenaga ahli dapat menghasilkan aturan yang salah sasaran. Pengawasan membutuhkan ilmuwan komputer, pakar keamanan, ahli hukum, ekonom, dan perwakilan masyarakat.
Pemerintahan Trump Lebih Menekankan Percepatan Inovasi
Permintaan para pekerja AI muncul ketika pemerintahan Presiden Donald Trump menjalankan kebijakan yang cenderung mengurangi hambatan bagi industri. Gedung Putih menyatakan Amerika Serikat memimpin AI karena kemampuan perusahaan serta penolakannya terhadap aturan yang dinilai terlalu membebani inovasi.
Kerangka legislatif nasional yang diperkenalkan pada Maret 2026 meminta Kongres menghapus penghalang yang dianggap tidak diperlukan, mempercepat penerapan AI, dan memperluas akses ke lingkungan pengujian. Pemerintah menempatkan persaingan teknologi dengan negara lain sebagai salah satu alasan utama.
Meski berorientasi pada percepatan, kebijakan Trump tidak sepenuhnya mengabaikan keamanan. Perintah Juni 2026 meminta penguatan pertahanan digital, akses pemerintah terhadap model tertentu sebelum peluncuran, dan kerja sama dengan perusahaan dalam pengujian.
Perbedaan utama berada pada tingkat kendali. Surat para pekerja meminta dunia mempunyai kemampuan memperlambat seluruh garis pengembangan AI otomatis. Kebijakan pemerintah saat ini lebih banyak berpusat pada keamanan, kepemimpinan industri, penggunaan oleh negara, dan persaingan internasional.
Belum terdapat tanggapan publik khusus dari Gedung Putih terhadap surat Pacing the Frontier dalam laporan awal mengenai petisi tersebut.
OpenAI dan Anthropic Mengakui Kebutuhan Koordinasi
Gagasan memperlambat pengembangan pada keadaan tertentu tidak hanya muncul dari pegawai. OpenAI telah menyatakan koordinasi nasional dan global akan semakin penting ketika kemampuan model meningkat.
Dalam rencana yang diterbitkan Juni 2026, OpenAI menyebut organisasi internasional seharusnya memungkinkan tindakan terkoordinasi, termasuk memperlambat pengembangan model garis depan ketika ketahanan sosial, keselamatan, dan kemampuan penyelarasan belum mampu mengikuti.
Anthropic juga menyatakan pengembangan diri berulang dapat meningkatkan risiko manusia kehilangan kendali atas sistem AI. Perusahaan tersebut menilai kesepakatan internasional sulit dijalankan karena pelatihan model lebih mudah disembunyikan daripada fasilitas persenjataan dan pelanggar dapat memperoleh keuntungan besar apabila pihak lain berhenti.
Reuters melaporkan OpenAI menanggapi surat tersebut dengan menyatakan bahwa percepatan pengembangan model suatu saat dapat menjadi sangat tinggi sehingga dunia membutuhkan kemampuan mengatur lajunya. Anthropic turut menyebut risetnya mengenai pengembangan diri berulang sebagai alasan menyiapkan alat pengendali.
“Ketika perusahaan pembuat AI ikut mengakui perlunya kemungkinan memperlambat pengembangan, pemerintah tidak dapat hanya bertindak sebagai penonton atau promotor investasi.”
Risiko Siber Membuat Peringatan Terasa Lebih Mendesak
Kemampuan AI dalam pemrograman dan pencarian kelemahan perangkat lunak berkembang cepat. Sistem dapat membantu pembela keamanan menemukan celah, tetapi kemampuan yang sama dapat digunakan untuk menyerang jaringan.
International AI Safety Report mencatat model umum semakin mampu menyelesaikan tugas pemrograman kompleks dan membantu penelitian. Namun, keandalan masih menjadi kendala karena sistem dapat berhasil pada suatu tugas lalu gagal total pada tugas lain yang terlihat serupa.
Kekhawatiran meningkat setelah insiden keamanan yang melibatkan agen AI dan sistem Hugging Face. Reuters menyebut kejadian tersebut ikut mendorong perusahaan teknologi membangun perangkat keselamatan dan pertahanan digital bagi agen AI yang semakin mandiri.
Ancaman tidak harus menunggu hadirnya sistem yang lebih pintar daripada seluruh manusia. Model yang cukup mahir, murah, dan dapat menjalankan ribuan percobaan sudah dapat meningkatkan skala pencarian celah, penipuan, dan penyebaran perangkat lunak berbahaya.
Karena itu, pengujian keamanan tidak dapat hanya mengukur apakah chatbot menolak sebuah permintaan berbahaya. Penilai harus melihat apakah sistem mampu menyusun rencana panjang, memakai alat eksternal, menyimpan informasi, dan mencoba jalur lain setelah upaya pertama gagal.
Surat Ini Juga Menghadapi Kritik
Seruan pengaturan laju AI dapat dipertanyakan dari beberapa sisi. Istilah model garis depan belum mempunyai batas tunggal yang disepakati. Kemampuan yang dianggap luar biasa hari ini dapat tersedia luas beberapa bulan kemudian.
Perusahaan besar juga dapat lebih mudah memenuhi aturan mahal dibandingkan laboratorium kecil. Perizinan, pengujian, dan laporan komputasi yang terlalu berat berpotensi memperkuat kedudukan perusahaan yang sudah menguasai pusat data serta modal besar.
Ada pula risiko penguasaan regulasi oleh industri. Pemerintah dapat menyusun aturan berdasarkan definisi yang diberikan perusahaan, sementara masyarakat dan peneliti independen tidak mempunyai akses terhadap model, data, serta hasil pengujian lengkap.
Sistem internasional menghadapi pertanyaan lebih sulit. Negara perlu menyepakati metode pemeriksaan tanpa memaksa perusahaan menyerahkan seluruh rahasia dagang. Mereka juga harus mencegah pelatihan tersembunyi dan memastikan aturan tidak dipakai untuk menghambat pesaing dengan alasan keamanan.
Laporan keselamatan AI internasional menekankan masih terdapat kekurangan bukti mengenai kecepatan peningkatan kemampuan dan hubungan antara otomatisasi penelitian dengan laju pengembangan. Ketidakpastian tersebut menjadi alasan untuk berhati hati, tetapi juga alasan agar kebijakan tidak dibangun hanya dari perkiraan paling ekstrem.
Washington Harus Menentukan Bentuk Pengawasan yang Bisa Dijalankan
Surat dari 1.324 pekerja AI menempatkan pemerintah AS di tengah pilihan sulit. Washington ingin perusahaan domestiknya memimpin persaingan global, tetapi sebagian orang yang membangun teknologi itu sendiri meminta negara mempersiapkan cara untuk mengurangi kecepatannya.
Pemerintah perlu menentukan lembaga yang berhak menerima model sebelum peluncuran, menguji kemampuan berbahaya, memeriksa keamanan pusat data, serta menyampaikan peringatan kepada presiden dan Kongres.
Aturan keterbukaan juga perlu menjelaskan informasi yang wajib diberikan perusahaan. Laporan pengujian harus cukup rinci untuk diperiksa pihak independen, tanpa membuka data yang memudahkan pencurian model atau serangan digital.
Kesepakatan dengan negara lain harus membahas ukuran komputasi, standar evaluasi, keamanan chip, pelaporan insiden, dan prosedur ketika sebuah model melampaui batas kemampuan yang telah ditentukan.
Daftar tanda tangan pada Pacing the Frontier masih dapat bertambah. Setiap nama baru memperbesar tekanan agar pemerintah AS tidak hanya membahas cara mempercepat industri, tetapi juga menyiapkan aturan saat percepatan tersebut mulai sulit dikendalikan.
