Anthropic ingin memperlambat laju perkembangan AI. OpenAI dan xAI ikut mendorong pengamanan yang lebih ketat. Jensen Huang justru berkata: jangan perlambat, buat aturan mainnya.
Pinterest : Georgia Piazza
Anthropic, OpenAI, dan xAI mulai berbicara tentang memperlambat laju AI. Tapi di sisi lain, NVIDIA justru mengatakan: jangan perlambat. Mungkin persoalannya bukan sekadar gas atau rem, melainkan siapa yang mengendalikan kendaraan ini.
Ada sesuatu yang menurut saya cukup menarik sedang terjadi di dunia AI pada September 2026.
Selama beberapa tahun terakhir, kita terbiasa mendengar narasi yang hampir selalu sama:
AI harus dibuat lebih pintar
Model berikutnya harus lebih besar.
Context window harus lebih panjang.
Agent harus lebih otonom.
Coding harus semakin otomatis.
AI harus bisa melakukan semakin banyak pekerjaan manusia.
Dan perusahaan yang berhasil melakukannya lebih dulu akan mendapatkan keuntungan besar.
Tetapi belakangan, narasinya mulai sedikti bergeser.
Orang-orang yang berada di dalam pelombaan itu sendiri mulai bertanya:
💬 Komentar & Diskusi
Bagaimana kalau kita terlalu cepat?
Dario Amodei, CEO Anthropic, secara terbuka menyerukan agar industri "pace the frontier" memperlambat laju pengembangan AI frontier agar keselamatan dan tata kelola puny awaktu untuk mengejar. Sam Altman dari OpenAI menyatakan setuju dan mengatakan OpenAI akan mengikuti komitmen untuk memberikan akses kepada evaluator independen. Elon Musk juga menyatakan dukungan.
Dan ini menarik.
Karena mereka bukan orang-orang yang berada di luar industri sambil meneriakkan bahwa AI berbahaya.
Mereka adalah orang-orang yang sedang membangun AI itu sendiri.
Dari "Bikin AI Lebih Pintar" Menjadi "Apakah Kita Bisa Mengendalikannya?"
Buat saya, perubahan percakapan ini jauh lebih penting daripada sekedar headline tentang "AI akan mengambil alih dunia."
Sebab problem sebenarnya bukan apakah AI itu baik atau jahat.
AI tidak perlu menjadi "jahat" untuk menciptakan masalah.
Sebuah sistem yang sangat kuat hanya perlu memiliki kemampuan yang jauh lebih besar daripada kemampuan manusia untuk memahami, memprediksi, dan mengawasinya.
Itu sudah cukup menjadi masalah.
Bayangkan kita membuat sebuah kendaraan yang mesinnya berkembang sangat cepat.
Generasi pertama kecepatannya 50 km/jam
Kemudian 100
200
201
Dan setiap beberapa bulan kemampuan mesinnya meningkat lagi.
Sementara itu, jalan raya, rambu-rambu, sistem pengereman, SIM, polisi lalu lintas, aturan kecelakaan, dan mekanisme pertanggungjawaban masih menggunakan sistem yang dibuat ketika kendaraan hanya mampu melaju 50 km/jam.
Pertanyaannya bukan:
"Apakah kendaraan ini jahat?"
Pertanyaannya:
"Apakah sistem keselamatan kita masih dirancang untuk kendaraan dengan kemampuan seperti ini?"
Menurut saya, itulah inti kegelisahan Amodei.
Dalam esainya, ia tidak menyerukan penghentian AI. Ia justru menulis bahwa AI memiliki potensi luar biasa untuk meningkatkan kualitas hidup manusia, tetapi resikonya juga meningkat ketika kemampuan AI berkembang sangat cepat. Ia mengusulkan evaluator independen, standar keselamatan bersama, dan koordinasi internasional.
Jadi sebenarnya kata kuncinya bukan stop.
Kata kuncinya adalah pace.
OpenAI Bahkan Sudah Pernah Menginjak Rem
Yang menurut saya membuat diskusi ini semakin menarik adalah posisi OpenAI sendiri.
Pada Agustus 2026, OpenAI mengatakan bahwa mereka sempat memperlambat pace of scaling karena meningkatnya kemampuan model membuat kebutuhan terhadap monitoring, alignment, dan containment menjadi semakin mendesak.
Bos OpenAI - Sam Altman
Ini penting.
Karena diskusinya kemudian berubah dari sesuatu yang teoritis menjadi persoalan engineering.
Bayangkan sebuah tim developer membuat sistem yang semakin powerful.
Versi pertama:
AI bisa menjawab pertanyaan.
Versi berikutnya:
AI bisa menulis kode.
Kemudian:
AI bisa menggunakan tools.
Kemudian:
AI bisa menjalankan tugas secara mandiri.
Kemudian:
AI mulai membantu penelitian AI itu sendiri.
Pada setiap tahap, kemampuan sistem bertambah.
Tetapi mekanisme pengawasan tidak otomatis bertambah dengan kecepatan yang sama.
Dan di sinilah muncul sebuah masalah yang menurut saya jau lebih fundamental:
Capability bisa berkembang secara eksponensial, sementara governance biasanya berkembang secara administratif.
Model baru bisa dirilis dalam hitungan bulan
Undang-undang bisa membutuhkan bertahun-tahun.
Standar Industri perlu negosiasi.
Evaluator independen perlu dibentuk.
Institusi pendidikan perlu beradaptasi.
Perusahaan perlu mengubah SOP.
Masyarakat perlu memahami teknologi tersebut.
Ada asymmetry of speed di sini.
Dan mungkin itu yang sebenarnya membuat sebagian orang di industri AI mulai gelisah.
Lalu Datang Jensen Huang: Jangan Perlambat AI
Di titik ini muncul perspektif yang berbeda.
Jensen Huang, CEO NVIDIA, selama bertahun-tahun menjadi salah satu figur utama yang mendorong percepatan komputasi AI.
Dan secara prinsip, posisi ini sangat mudah dipahami.
Jensen Huang - Foto : Liam R
AI bukan hanya chatbot.
AI juga berarti obat baru, scientific discovery, robotics, manufacturing, autonomous systems, energi, pertahanan, dan berbagai bentuk otomatisasi.
Kalau kita memperlambat perkembangan AI terlalu jauh, kita juga mungkin memperlambat manfaat yang bisa diperoleh manusia.
Dan ada masalah lain.
Dunia tidak hanya terdiri dari satu perusahaan.
Kalau Anthropic memperlambat diri, tetapi perusahaan lain terus berlari, siapa yang sebenarnya berhenti?
kalau OpenAI mengurangi kecepatan training, sementara kompetitor tetap mempercepatnya, apakah OpenAI tidak akan kehilangan posisi?
Dan kalau Amerika memperlambat, tetapi negara lain tidak melakukannya, apakah perlambatan tersebut justru menciptakan resiko strategis baru?
Inilah alasan kenapa argumen "tinggal perlambat saja" ternyata tidak sesederhana kedengarannya.
Mungkin Amodei dan Huang Tidak Benar-Benar Berdebat Tentang Hal yang Sama
Ini bagian yang menurut saya paling menarik.
Kalau kita melihat debatnya hanya sebagai:
Amodei = rem
versus
Huang = gas
kita kehilangan persoalan yang sebenarnya.
Karena bisa saja keduanya sebenarnya sedang berbicara tentang dua lapisan berbeda.
Amodei berbicara mengenai pace of capability development.
Seberapa cepat kita meningkatkan kemampuan model?
Huang lebih dekat dengan pertanyaan:
Bagaimana kita tetap mempercepat inovasi tanpa melepaskan sistem yang lebih aman?
Dan perbedaan itu sangat penting.
Karena kita bisa membayangkan sebuah dunia di mana AI tetap berkembang cepat, tetapi setiap kenaikan kemampuan melewati serangkaian safety gates yang semakin ketat.
Misalnya:
Capability meningkat - evaluasi - red teaming - monitoring - independent assesment - deployment terbatas - monitoring dunia nyata - deployment lebih luas.
Jadi bukan:
Jangan bikin AI lebih pintar.
Melainkan:
Bikin AI lebih pintar, tetapi jangan biarkan kemampuan deployment melampaui kemampuan kita untuk mengevaluasinya.
Menurut saya, ini jauh lebih menarik daripada debat sederhana tentang "pro-AI" versus "anti-AI".
Tetapi Ada Satu Pertanyaan yang Sangat Mengganggu
Kalau perusahaan mengatakan:
Kami akan mempercepat AI, tetapi kami tidak akan merilis sesuatu yang tidak aman.
Saya punya satu pertanyaan.
Siapa yang menentukan sesuatu itu aman?
Perusahannya sendiri?
Investor?
Engineer?
Government?
Independent evaluator?
Atau publik?
Karena di sinilah masalah governance dimulai.
Kalau sebuah perusahaan menjadi pihak yang membuat teknologi, menentukan standar keselamatan, menguji teknologinya sendiri, kemudian memutuskan apakah teknologi itu aman untuk dilepas...
maka kita mempunyai sesuatu uang mirip dengan:
seorang pembalap yang juga membuat mobil, membuat aturan balapan, menjadi wasit, dan menentukan sendiri apakah mobilnya lolos inspeksi.
Mungkin dia jujur.
Mungkin dia sangat bertanggung jawab.
Tetapi secara struktural, tetap ada konflik kepentingan.
Itulah mengapa usulan Amodei tentang evaluator eksternal menarik. Anthropic mengatakan evaluator pihak ketiga akan mendapatkan akses permanen dengan tingkat akses seperti karyawan untuk memverifikasi kepatuhan terhadap langkah keselamatan, melaporkan insiden, dan menilai alignment selama proses training.
Sam Altman kemudian mengatakan OpenAI akan melakukan hal serupa.
Ini sebenarnya adalah langkah yang lebih besar daripada sekedar "AI Safety".
Ini menyentuh pertanyaan:
Apakah perusahaan teknologi harus dipercaya untuk mengawasi dirinya sendiri?
Dan Di Sini Saya Justru Mulai Lebih Skeptis
Bukan skeptis terhadap AI
Saya skeptis terhadap gagasan bahwa industri AI bisa menyelesaikan masalah ini hanya dengan kesepakatan antar perusahaan.
Karena ada paradoks yang sangat besar.
Perusahaan-perusahaan ini sedang bersaing.
Mereka membutuhkan investor.
Mereka membutuhkan talent.
Mereka ingin menjadi pemimpin pasar.
Dan sekarang mereka diminta untuk secara sukarela berkata:
Mari kita semua memperlambat diri.
Masalahnya adalah first mover advantage.
Kalau saya berhenti dan kamu terus berlari, kamu mendapatkan keuntungan.
Akhirnya semua orang punya insentif untuk mengatakan:
Sebenarnya kita ingin memperlambat.. tapi jangan sampai kompetitor melakukannya lebih lmbat dari kita."
Ini seperti prisoner's dilemma.
menariknya, Axios sebelumnya memang menggambarkan persoalan AI labs dalam kerangka tersebut bahkan ketika banyak pihak melihat kebutuhan untuk pacing, tidak ada satu laboratorium pun yang mudah untuk menginjak rem sendirian.
Dan sekarang masalahnya bahkan lebih besar lagi.
Karena bukan hanya Amerika yang membangun AI.
Perusahaan Eropa sendiri sudah mempertanyakan seruan slowdown dari perusahaan-perusahaan Amerika dapat berdampak pada kompetisi dan posisi global. Reuters melaporkan bahwa sejumlah perusahaan dan pejabat Eropa khawatir perlambatan semacam itu dapat menguntungkan pemain yang sudah dominan.
Jadi kita sampai pada paradoks:
Semua orang mungkin sepakat bahwa keselamatan penting.
Tetapi mereka belum tentu sepakat tentang siapa yang harus memperlambat, kapan harus memperlambat, dan siapa yang memastikan semua orang mematuhi aturan yang sama.
"Rules of Engagement" Mungkin Lebih Masuk Akal Daripada "STOP"
Di sinilah saya memahami intuisi Jensen Huang ketika berbicara mengenai perlunya aturan main.
Karena saya tidak yakin jawaban terbaik adalah:
Stop AI
Bahkan saya tidak yakin apakah "stop" merupakan pilihan yang realistis.
Tetapi saya juga tidak yakin bahwa:
Gas terus dan nanti kita pikirkan safety-nya.
adalah strategi yang masuk akal.
Mungkin yang kita butuhkan adalah sesuatu di tengah:
Rules of Engagement.
Bukan aturan untuk menghentikan perang.
Tetapi tentang bagaimana sebuah kekuatan besar boleh digunakan.
Untuk AI, bentuknya bisa berupa:
evaluasi keselamatan sebelum deployment,
pengujian independen,
monitoring setelah deployment,
pelaporan insiden,
standar minimum keamanan,
pembatasan kemampuan tertentu pada sistem tertentu,
mekanisme containment,
audit terhadap model frontier,
transparansi mengenai kemampuan dan resiko,
dan koordinasi internasional
Beberapa mekanisme tersebut sudah menjadi bagian dari proposal industri dan diskusi kebijakan, tetapi bagaimana menerapkannya secara independen, konsisten, dan lintas negara masih menjadi persoalan besar.
Dan menurut saya, ini jauh lebih realistis daripada berharap semua perusahaan tiba-tiba kehilangan ambisi.
Tapi Ada Risiko Lain: "Safety" Bisa Menjadi Senjata Kompetisi
Ini bagian yang menurut saya jangan sampai kita lewatkan.
Bayangkan perusahaan besar mengatakan:
Untuk alasan keselamatan, perusahaan baru harus memenuhi 27 standar tambahan sebelum boleh melatih model frontier.
Kedengarannya bagus.
Tetapi siapa yang paling mampu memenuhi 27 standar itu?
Perusahaan besar dengan:
miliaran dolar.
ribuan engineer,
akses GPU,
legal team,
compliance team,
dan infrastruktur raksasa.
Startup kecil?
Belum tentu.
Maka regulasi keselamatan yang terlalu berat justru bisa membuat industri semakin terkonsentrasi pada beberapa perusahaan besar.
Dan ini bukan sekedar teori abstrak. Kritik semacam itu sudah muncul dalam perdebatan mengenai proposal pacing the frontier: ada pihak yang khawatir koordinasi antara-lab besar atas nama safety dapat berubah menjadi bentuk regulatory capture atau memperkuat posisi pemain incumbent.
Ini membuat persoalannya menjadi jauh lebih rumit.
Kita ingin AI aman.
Tetapi kita juga tidak ingin:
"AI Safety" berubah menjadi alasan untuk membuat hanya segelintir perusahaan yang boleh mengembangkan AI.
Jadi Saya Tidak Melihat Ini Sebagai Pertarungan "Siapa yang Benar?"
Justru menurut saya, pertanyaan itu terlalu sederhana.
Amodei mengangkat pertanyaan penting:
Bagaimana kalau kemampuan AI berkembang lebih cepat daripada kemampuan kita mengendalikannya?
Huang mengangkat pertanyaan lain:
Bagaimana kalau memperlambat inovasi terlalu jauh justru membuat kita kehilangan manfaat AI dan posisi strategis?
OpenAI berada di tengah-tengah persoalan itu.
Mereka sendiri sudah mengakui pernah memperlambat scaling untuk memperkuat safeguards, tetapi pada saat yang sama tetap berkompetisi untuk membangun model yang semakin capable.
Dan menurut saya, justru ketegangan di antara semua pertanyaan itu yang sehat untuk dibicarakan.
Karena AI bukan teknologi biasa.
Ia bukan sekedar smartphone yang lebih cepat.
AI semakin dekat dengan sesuatu yang bisa:
berpikir, merencanakan, menulis kode, menggunakan tools, menjalankan pekerjaan, dan dalam beberapa konteks membantu membuat sistem AI berikutnya.
AP baru-baru ini melaporkan bahwa beberapa laboratorium besar melihat kemampuan AI untuk melakukan semakin banyak pekerjaan pengembangan model sebagai sesuatu yang semakin dekat, sementara konsensus mengenai kapan dan bagaimana resiko tersebut harus dikelola masih belum ada.
Dan justru karena konsensusnya belum ada...
kita membutuhkan lebih banyak percakapan, bukan lebih sedikit.
Mungkin Pertanyan Terbesarnya Bukan "Haruskah AI Diperlambat?"
Saya mulai berpikir bahwa pertanyaan tersebut salah.
Pertanyaan yang lebih menarik adalah:
Apakah sistem keselamatan kita berkembang secepat kemampuan AI?
Kalau jawabannya iya, mungkin kita bisa terus bergerak.
Kalau jawabannya tidak, maka mungkin memang ada bagian tertentu dari perkembangan AI yang perlu diperlambat.
Bukan karena kita takut pada teknologi.
Tetapi karena kecepatan teknologi dan kecepatan institusi manusia tidak sama.
AI bisa mendapatkan model baru dalam enam bulan.
Pendidikan membutuhkan bertahun-tahun.
Hukum membutuhkan proses politik.
Standar internasional membutuhkan negosiasi.
Budaya masyarakat membutuhkan generasi.
Dan itu adalah mismatch yang menurut saya jauh lebih menakutkan daripada narasi robot mengambil alih dunia.
Kita Sedang Membuat Mesin yang Belum Selesai Kita Pahami
Ini mungkin bagian paling personal dari tulisan ini.
Saya adalah orang yang justru menikmati perkembangan AI.
Saya menggunakan AI untuk berpikir.
Untuk menulis.
Untuk coding.
Untuk belajar.
Untuk membuat website.
Untuk mengeksplorasi ide-ide yang beberapa tahun lalu mungkin membutuhkan satu tim kecil.
Jadi saya tidak sedang menulis ini dari posisi orang yang ingin melihat AI berhenti.
Justru sebaliknya.
Saya ingin melihat AI berkembang.
Tetapi semakin sering saya menggunakan AI, semakin saya merasa ada sesuatu yang harus kita akui:
Kemampuan menggunakan AI berkembang lebih cepat daripada kemampuan manusia memahami konsekuensinya.
Dan mungkin itu alasan mengapa saya menganggap perdebatan antara Amodei dan Huang menarik.
Karena pada akhirnya mereka bukan sedang memperdebatkan apakah manusia membutuhkan AI.
Kita sudah sampai pada titik di mana jawabannya jelas:
AI akan menjadi bagian besar dari masa depan manusia.
Pertanyaannya adalah:
Seberapa cepat kita mau sampai ke sana?
Dan yang lebih penting:
Apa yang sudah kita bangun sebelum kita tiba di sana?
Jangan Hanya Membangun Mesin yang Lebih Cepat. Bangun Juga Rem yang Lebih Baik.
Kalau saya harus mengambil satu pelajaran dari semua perkembangan ini, mungkin bukan:
"AI harus diperlambat."
Dan bukan pula:
AI jangan pernah diperlambat."
Melainkan:
Kalau kita ingin AI bergerak semakin cepat, maka sistem yang mengawasi AI juga harus bergerak semakin cepat.
Kita membutuhkan evaluator.
Kita membutuhkan standar.
Kita membutuhkan moitoring.
Kita membutuhkan transparansi.
Kita membutuhkan mekanisme untuk menghentikan atau membatasi sistem ketika diperlukan.
Dan yang lebih penting:
kita membutuhkan aturan yang tidak bergantung sepenuhnya pada niat baik perusahaan yang sedang berlomba satu sama lain.
Karena pada akhirnya, tidak seorang pun yang bisa menjamin bahwa perusahaan akan selalu menjadi pihak paling rasional ketika miliaran dolar, pangsa pasar, dan posisi geopolitik dipertaruhkan.
mungkin itu sebabnya kalimat Jensen Huang tentang tidak memperlambat AI justru menarik jika ditempatkan berdampingan dengan seruan Amodei untuk pace the frontier.
Karena keduanya membawa kita kepada pertanyaan yang sama:
Kalau kita tidak mau berhenti, lalu bagaimana kita memastikan kita tetap bisa mengendalikan arah perjalanan?
Dan Mungkin Inilah Babak AI Berikutnya
Selama beberapa tahun terakhir, perlombaan AI sebagian besar diukur dari satu hal:
Siapa yang punya model paling pintar?
Para Mastermind dan Leader di Bidang Teknologi
Saya rasa itu akan berubah.
Perlahan pertanyaan berikutnya mungkin menjadi:
Siapa yang mampu membangun AI paling powerful sekaligus sistem keselamatan paling dapat dipercaya?
Karena kalau AI semakin capable, keunggulan tidak lagi hanya berada pada kemampuan membuat model.
Keunggulan juga berada pada kemampuan mengelola model tersebut.
Dan mungkin suatu hari nanti, perusahaan AI tidak hanya akan dinilai dari benchmark modelnya.
Tetapi dari pertanyaan yang jauh lebih sederhana:
Ketika sesuatu berjalan salah, siapa yang bisa mengetahuinya?
Siapa yang bisa menghentikannya?
Siapa yang mengauditnya?
Dan siapa yang bertanggung jawab?
Buat saya, itulah percakapan AI yang jauh lebih menarik daripada sekadar:
"Model siapa yang paling pintar?"
Karena kalau kita memang sedang memasuki era mesin yang semakin powerful, saya tidak yakin manusia hanya membutuhkan mesin yang lebih pintar.
Kita juga membutuhkan:
rem yang lebih pintar.
Mungkin masa depan AI bukan ditentukan oleh siapa yang paling cepat menekan gas, tapi oleh siapa yang paling serius memastikan kita masih memiliki kendali ketika kendaran ini melaju semakin cepat.
Catatan AI Explorer
Ada satu hal yang terus mengganggu pikiran saya setelah mengikuti perkembangan ini.
Beberapa tahun lalu, ketika seseorang mengatakan "AI mungkin berkembang terlalu cepat," kita bisa dengan mudah menganggapnya sebagai kekhawatiran futuristik.
Sekarang yang mengatakannya justru adalah orang-orang yang berada di dalam laboratorium frontier itu sendiri.
Itu tidak otomatis membuat semua prediksi mereka benar.
Dan saya rasa kita juga tidak perlu panik.
Karena mungkin untuk pertama kalinya dalam sejarah teknologi modern, orang yang sedang membangun mesin masa depan mulai secara terbuka memperdebatkan apakah mereka sendiri sedang bergerak terlalu cepat.
Dan bagi saya, itu bukan alasan untuk berhenti mempelajari AI.
