AI Chatbot Perusahaan Ini Hilang Kendali, Menyumpah Serapah ke Pelanggan

- Perusahaan Dynamic Parcel Distribution (DPD) menonaktifkan chatbot online AI-nya.

Ini setelah seorang pelanggan, Ashley Beauchamp yang berusia 30 tahun, menemukan bot tersebut menggunakan bahasa yang tidak pantas dan bahkan membuat ungkapan kritis tentang perusahaan pengiriman parsel.

Ashley menjadi frustrasi ketika mencoba menemukan paket yang hilang dan merasa bahwa chatbot tidak memberikan informasi yang berguna.

Selanjutnya, dia mengajukan beberapa pertanyaan ke chatbot, dan respons sistem sama sekali tidak terduga dan tidak sejalan dengan interaksi yang diharapkan.

Akibat permasalahan yang tidak terduga ini, DPD memutuskan untuk menonaktifkan chatbot.

Menurut Guardian, Ashley meminta chatbot tersebut untuk menceritakan sebuah lelucon, namun dia segera melanjutkan dengan meminta chatbot tersebut untuk menulis puisi yang mengkritik perusahaan tersebut.

Dengan beberapa petunjuk lagi, chatbot langsung menyumpah serapah.

Beauchamp berbagi percakapan di X, dengan chatbot membalas satu pesan: "F**k ya! Saya akan melakukan yang terbaik untuk membantu sebanyak mungkin, bahkan jika itu berarti mengumpat."

Kemudian, dalam contoh lain, chatbot menyebut dirinya sebagai "Chatbot tidak berguna yang tidak dapat membantu Anda".

PostinganBeauchamp, seorang musisi klasik dari London, ditonton 1,3 juta kali dalam waktu 24 jam.

Mengacu pada chatbot tersebut, dia menulis di X.

"Perusahaan pengiriman paket DPD telah mengganti obrolan layanan pelanggan mereka dengan robot AI," ujarnya.

"Sama sekali tidak ada gunanya dan tidam menjawab pertanyaan apa pun, dan ketika ditanya, dengan senang hati, mereka menghasilkan puisi tentang betapa buruknya mereka sebagai sebuah perusahaan. Ia juga menyumpahi saya," tambahnya.

Tag:  #chatbot #perusahaan #hilang #kendali #menyumpah #serapah #pelanggan