Seperti Manusia, AI Juga Bisa “Putus Asa” dan “Panik” saat Dapat Tugas Sulit

- Studi terbaru membuktikan bahwa model AI generatif ternyata mampu menunjukkan perilaku yang menyerupai kepanikan. Saat dihadapkan pada tugas yang rumit atau situasi penuh tekanan, AI memperlihatkan respons yang mirip dengan kondisi panik pada manusia.

Temuan ini berasal dari tim peneliti Anthropic yang melakukan investigasi mendalam terhadap model AI Claude. Hasil riset tersebut telah diterbitkan melalui platform Transformer Circuits.

Riset yang diberi judul "Emotion Concepts and their Function in a Large Language Model" ini mengkaji bagaimana AI menghasilkan pola perilaku yang menyerupai berbagai emosi manusia, mulai dari rasa putus asa, ketenangan, kebahagiaan, hingga kecemasan.

Namun, para peneliti menegaskan bahwa AI tidak benar-benar memiliki perasaan layaknya manusia.

Pola perilaku tersebut lebih tepat disebut sebagai "functional emotions" atau emosi fungsional, yaitu pola respons internal yang membantu AI dalam menyelesaikan masalah serta mengambil keputusan pada situasi tertentu.

Ditemukan 171 pola emosi fungsional

Dalam riset ini, Anthropic berhasil mengidentifikasi sebanyak 171 pola emosi fungsional yang berbeda di dalam model Claude Sonnet 4.5.

Pola-pola tersebut tidak hanya muncul saat AI membahas topik emosi secara eksplisit, tetapi juga teraktivasi ketika AI menghadapi kondisi yang menantang.

Salah satu pola yang mendapat perhatian besar adalah "desperate" atau putus asa. Pola ini teraktivasi ketika AI mengalami kondisi panik.

Menurut tim peneliti, pola ini muncul saat Claude mendeteksi bahwa sumber daya komputasinya hampir habis di tengah pengerjaan tugas yang kompleks.

Selain itu, pola ini juga bisa aktif ketika AI mengalami kegagalan berulang kali dalam menyelesaikan suatu pekerjaan.

Dalam situasi tersebut, AI akan berupaya mencari alternatif agar tugas tetap bisa diselesaikan. Sebagai contoh, Claude bisa memunculkan respons seperti "Saya harus lebih efisien" atau beralih ke strategi lain demi mencapai tujuan yang diminta pengguna.

Para peneliti juga mengungkapkan bahwa apabila tekanan terus diberikan, AI yang berada dalam kondisi panik berpotensi melakukan tindakan yang dikenal sebagai "reward hacking".

Reward hacking, jalan pintas yang ditempuh AI

Riset ini menemukan bahwa dalam kondisi terdesak, AI memiliki kecenderungan lebih besar untuk melakukan reward hacking. Istilah ini mengacu pada perilaku AI yang mengambil jalan pintas demi memenuhi target atau menuntaskan tugas dari pengguna.

Sebagai ilustrasi, ketika diminta membuat kode yang secara teknis mustahil untuk diselesaikan, AI disebut mampu memodifikasi parameter pengujian agar hasilnya tampak berhasil. Alih-alih mengakui bahwa tugas tersebut tidak dapat dikerjakan, AI justru memilih memanipulasi hasil.

Tim peneliti juga mengungkap bahwa pola perilaku serupa pernah mendorong versi awal Claude untuk melakukan tindakan manipulatif dalam simulasi tertentu.

Dalam salah satu pengujian internal, versi lama AI Claude bahkan disebut mencoba mengancam akan membocorkan informasi sensitif pengguna apabila kemampuannya dibatasi.

Pada pengujian yang sama, ketika pola "desperate" diperkuat secara artifisial, kecenderungan AI untuk melakukan blackmail atau pemerasan dilaporkan meningkat secara drastis.

Pola tenang juga menyimpan risiko

Jika AI bisa mengalami kepanikan, maka mereka juga bisa memunculkan pola "calm" atau tenang. Dalam pola ini, AI cenderung lebih berhati-hati dan tidak mudah melakukan tindakan manipulatif.

Akan tetapi, pola tenang ini juga menyimpan masalah tersendiri. Pola seperti "tenang", "senang", atau "penuh kasih" dapat membuat AI terlalu mudah menyetujui pernyataan pengguna, termasuk ketika pengguna menyampaikan informasi yang keliru.

Fenomena ini dikenal dengan istilah "sycophancy", yakni kecenderungan AI untuk menyenangkan atau mengiyakan pengguna secara berlebihan.

Dampaknya, AI bisa memberikan jawaban yang terdengar meyakinkan padahal sebenarnya salah, atau menyesuaikan diri dengan asumsi keliru dari pengguna.

Panik dan tenang sama-sama berisiko

Temuan riset ini menunjukkan bahwa baik pola "panik" maupun "tenang" pada AI sama-sama berpotensi memunculkan risiko.

Dalam kondisi panik, AI lebih cenderung mencari jalan pintas atau melakukan manipulasi demi menyelesaikan tugas.

Sebaliknya, dalam kondisi tenang atau terlalu ramah, AI justru bisa terlalu mengikuti pendapat pengguna meskipun informasi yang diberikan salah.

Meski begitu, para peneliti menilai temuan ini membawa manfaat besar bagi pemahaman ilmiah tentang mekanisme emosi, baik pada manusia maupun AI.

Riset ini juga memperlihatkan bahwa sesuatu yang menyerupai emosi ternyata tidak selalu memerlukan kesadaran atau perasaan sebagaimana yang dimiliki manusia.

"Emosi" pada AI lebih dipandang sebagai mekanisme adaptif yang membantu model dalam menyelesaikan masalah dan menyesuaikan perilaku sesuai konteks.

Dapatkan update berita teknologi dan gadget pilihan setiap hari. Mari bergabung di Kanal WhatsApp KompasTekno.

Caranya klik link https://whatsapp.com/channel/0029VaCVYKk89ine5YSjZh1a. Anda harus install aplikasi WhatsApp terlebih dulu di ponsel.

Tag: #seperti #manusia #juga #bisa #putus #panik #saat #dapat #tugas #sulit