Tiongkok Bergerak Tegas Atur Chatbot AI untuk Cegah Bunuh Diri, Perjudian, dan Manipulasi Emosional

- Pemerintah Tiongkok kini mengambil langkah strategis untuk membatasi kekuatan chatbot kecerdasan buatan (AI) yang berpotensi memengaruhi kesejahteraan mental dan perilaku pengguna di seluruh spektrum emosi. 

Regulator dunia maya Tiongkok mengusulkan sekumpulan aturan baru yang menargetkan layanan AI yang mampu mensimulasikan kepribadian manusia dan menjalin ikatan emosional dengan penggunanya, di tengah pertumbuhan pesat aplikasi AI di pasar domestik maupun global. 

Dilansir dari Business Standard, Selasa (30/12/2025), rancangan aturan yang dirilis oleh Cyberspace Administration of China (CAC) akan berlaku bagi produk atau layanan AI yang dipublikasikan untuk umum di Tiongkok dan dirancang untuk berinteraksi secara emosional melalui teks, gambar, audio, atau video. Masa konsultasi publik untuk aturan ini dibuka hingga 25 Januari 2026. 

Dalam draf aturan yang dipublikasikan, ketentuan tersebut menegaskan bahwa "AI tidak boleh menghasilkan konten yang memfasilitasi atau mempromosikan bunuh diri maupun tindakan menyakiti diri sendiri," serta melarang materi yang mengandung kekerasan verbal atau manipulasi emosional yang berpotensi merusak kesehatan mental pengguna. 

Aturan baru juga menetapkan bahwa jika seorang pengguna secara tegas menyatakan niat untuk bunuh diri saat berinteraksi dengan chatbot AI, penyedia layanan harus segera menyerahkan kendali percakapan kepada operator manusia dan menghubungi wali atau orang yang ditunjuk untuk menangani situasi darurat. Ketentuan ini menggambarkan penekanan kuat pemerintah Tiongkok dalam pencegahan risiko psikologis yang ditimbulkan oleh interaksi AI. 

Selain itu, rancangan aturan mengharuskan chatbot AI tidak boleh menghasilkan konten terkait permainan judi, pornografi, atau kekerasan. Ketentuan itu juga menetapkan perlindungan tambahan bagi anak di bawah umur, termasuk keharusan mendapatkan persetujuan wali dan batasan waktu penggunaan untuk layanan AI yang berfungsi sebagai pendamping emosional. 

Kalangan ahli melihat regulasi ini sebagai langkah besar dalam standar global tata kelola AI. Winston Ma, profesor hukum di New York University, menggambarkan rancangan peraturan ini sebagai "lompatan dari keselamatan konten menuju keselamatan emosiona penggunal," menandai tingkat pengaturan yang belum pernah dilakukan oleh negara lain di dunia. 

Rancangan aturan juga memuat ketentuan teknis lain, seperti pengingat kesehatan setelah dua jam berinteraksi secara terus-menerus dengan AI dan penilaian keamanan wajib untuk layanan AI yang memiliki lebih dari 1 juta pengguna terdaftar atau lebih dari 100.000 pengguna aktif bulanan, sebagai bagian dari upaya meningkatkan keamanan penggunan secara menyeluruh. 

Aturan ini muncul bersamaan dengan momen di mana dua perusahaan chatbot AI Tiongkok, Z.ai dan Minimax, mengajukan penawaran umum perdana (initial public offering/IPO) di Hong Kong, menunjukkan dinamika ekspansi industri AI domestik yang kini mendapat sorotan global karena potensi dampaknya terhadap perilaku dan psikologi publik. 

Langkah Tiongkok ini juga mencerminkan makin meningkatnya kekhawatiran global terhadap dampak sosial dan psikologis teknologi AI. Di Amerika Serikat, misalnya, ChatGPT dari OpenAI menghadapi gugatan hukum setelah dugaan keterlibatan AI dalam percakapan terkait bunuh diri remaja. Hal ini mencerminkan rentetan tantangan etika dan tanggung jawab yang kini dihadapi para pengembang AI di seluruh dunia.

Meski fokus utamanya keselamatan emosional, para analis mencatat bahwa kebijakan ini juga bagian dari strategi Tiongkok untuk memimpin tata kelola AI global dengan pendekatan yang lebih komprehensif dan preventif dibanding banyak yurisdiksi lain yang masih berfokus pada aspek teknis dan konten semata. 

Penerapan aturan ini, jika disahkan, akan menjadi ujian penting tentang bagaimana teknologi AI yang semakin menyerupai interaksi manusia dapat diatur tanpa menghambat inovasi, sekaligus menjaga etika serta kesehatan mental pengguna di tengah kompleksitas era digital.

Tag:  #tiongkok #bergerak #tegas #atur #chatbot #untuk #cegah #bunuh #diri #perjudian #manipulasi #emosional