Anthropic Ajak Pesaing Perlambat AI, Takut Mesin Bisa Perbaiki Diri Sendiri

– Anthropic, salah satu perusahaan AI paling berpengaruh di dunia, meminta para pesaingnya untuk mempertimbangkan melambatkan pengembangan AI secara global.

Permintaan tak biasa itu disampaikan perusahaan bervaluasi 1 triliun dollar AS ini lewat blog resmi mereka, Kamis (4/6/2026).

Alasan di baliknya cukup serius. Anthropic melihat sistem AI kini berkembang begitu cepat hingga mendekati ambang batas yang sangat berbahaya, yakni kemampuan untuk memperbaiki dirinya sendiri tanpa campur tangan manusia.

Istilah teknisnya adalah recursive self-improvement alias perbaikan diri rekursif.

Konsepnya sederhana tapi mengerikan. Sebuah AI mampu meningkatkan kemampuannya sendiri tanpa intervensi manusia, lalu hasil peningkatan itu meningkatkan dirinya lagi, dan begitu seterusnya dalam siklus yang semakin cepat.

Di kalangan peneliti AI, ambang batas ini telah lama dianggap sebagai penanda potensi bahaya besar dan goncangan sosial yang masif.

"Kami percaya akan baik bagi dunia jika ada opsi untuk memperlambat atau menghentikan sementara pengembangan AI tingkat lanjut, agar struktur sosial dan riset penyelarasan bisa mengejar laju perkembangan teknologi ini," tulis Marina Favaro dan Jack Clark, dua penulis blog tersebut.

Clark sendiri merupakan salah satu pendiri Anthropic dan kepala bidang manfaat publik di perusahaan itu.

Anthropic menegaskan bahwa perbaikan diri rekursif belum terjadi. Namun mereka memperingatkan kondisi itu bisa datang lebih cepat dari yang dipersiapkan kebanyakan institusi.

Clark menyebut ambang batas itu bisa tercapai dalam waktu dua tahun, bahkan mungkin lebih cepat.

"Fenomena teknologi seperti itu belum pernah ada sebelumnya, tapi saya yakin ini bisa terjadi dalam dua tahun ke depan, mungkin lebih cepat," kata Clark.

Menurut Clark, tanpa adanya perlambatan global yang terkoordinasi, dunia kini terjebak dalam situasi yang riskan. Teknologi yang amat kuat sedang dikembangkan dengan kecepatan luar biasa oleh banyak pihak di banyak negara.

"Semuanya terkunci dalam persaingan di mana rivalitas komersial dan geopolitik menenggelamkan aspek eksistensial dari teknologi yang sedang dibangun ini," tambahnya, sebagaimana dihimpun KompasTekno dari The Wall Street Journal.

Mirip perjanjian senjata nuklir

Anthropic mengusulkan kesepakatan global untuk mengatur cara memperlambat pengembangan AI, lengkap dengan mekanisme verifikasi untuk memastikan para pesaing benar-benar menaatinya.

Mereka membandingkan masalah ini dengan perjanjian senjata nuklir. Namun dengan satu perbedaan penting, jauh lebih sulit untuk dipantau.

"Proses pelatihan AI jauh lebih mudah disembunyikan daripada pangkalan rudal," tulis Anthropic dalam blog mereka.

Mereka menyadari risiko fatal dari kecurangan ini. Jika kesepakatan tidak diawasi dengan ketat, siapa pun pihak yang terus diam-diam melatih AI saat yang lain melakukan berhenti, akan langsung mendapat posisi terdepan di industri tersebut.

Untuk membangun sistem verifikasi semacam itu, Anthropic mengumumkan Anthropic Institute, yakni unit riset internal mereka, akan melakukan penelitian bersama pihak-pihak eksternal.

Anthropic juga berjanji akan mengorganisir diskusi dengan pembuat kebijakan, peneliti, dan pihak lain dalam beberapa bulan ke depan.

Ilustrasi dibuat menggunakan AI. KOMPAS.com/Zulfikar Hardiansyah Ilustrasi AI mulai pintar dan mampu menggantikan pekerjaan manusia.

Trik pemasaran?

Tidak semua orang yakin niat Anthropic sepenuhnya tulus.

David Sacks, investor modal ventura sekaligus penasihat Presiden Donald Trump, menuding pimpinan Anthropic menjalankan agenda yang disebutnya agenda "regulatory capture" atau memonopoli regulasi.

Sacks bahkan menuduh agenda itu di Washington bisa berujung pada upaya pelarangan model AI open-source, yakni versi sistem AI yang jauh lebih murah dan bisa dikembangkan secara internal oleh berbagai organisasi.

Pihak lain berpendapat peringatan Anthropic soal bahaya AI-nya sendiri sebenarnya adalah taktik pemasaran.

Mereka menunjuk keputusan Anthropic membatasi peluncuran Mythos, model keamanan siber milik mereka yang mampu menemukan bug dan masalah sistem, sebagai cara cerdik untuk menonjolkan kemampuan produknya.

Anthropic membantah tuduhan itu dan menyatakan mereka serius soal keamanan AI.

Ethan Mollick, profesor di Wharton School University of Pennsylvania dan pengamat AI berpengaruh, memberikan pandangan yang lebih berimbang.

Menurut Mollick, lab-lab AI sebenarnya merupakan gabungan dari beberapa kelompok berbeda yang berada dalam satu atap.

Di satu sisi ada perusahaan bernilai triliunan dollar AS dengan segala fungsinya, mulai dari tim pemasaran hingga pengacara. Di sisi lain ada tim peneliti yang fokus membangun model AI berikutnya.

Lalu ada pula sekelompok orang yang ia ibaratkan sebagai "raja filsuf", yakni mereka yang khawatir tentang masa depan dan dampak jangka panjang dari teknologi ini.

Ketiga kelompok itu, kata Mollick, kerap saling berselisih satu sama lain di dalam perusahaan yang sama.

Industri terbelah

Industri AI sendiri sebenarnya masih terbelah soal seberapa dekat model AI saat ini dengan capaian penting seperti Artificial General Intelligence alias AGI, yakni tingkat kecerdasan yang setara manusia.

Yann LeCun, mantan kepala ilmuwan AI di Meta sekaligus salah satu pelopor AI, berpendapat sistem AI berbasis model bahasa besar (LLM) saat ini tidak akan pernah mampu menyamai kecerdasan manusia. LeCun menyamakan kecerdasan AI saat ini dengan tingkat kecerdasan kucing.

Sementara di kubu sebaliknya, CEO Anthropic Dario Amodei sudah bertahun-tahun memperingatkan potensi dampak berbahaya dari AI.

Amodei bahkan pernah memperingatkan AI bisa memperburuk ketimpangan dan menghilangkan hingga separuh pekerjaan kantoran level pemula.

Dalam sebuah esai di website pribadinya, Amodei bahkan mengusulkan kemungkinan yang terdengar seperti cerita fiksi ilmiah, pelatihan AI menggunakan narasi pemberontakan AI bergaya fiksi ilmiah justru bisa membuat AI sungguhan akhirnya memberontak.

Tag: #anthropic #ajak #pesaing #perlambat #takut #mesin #bisa #perbaiki #diri #sendiri