Usai Isu Chat Mesum, Meta Blokir Akses Remaja ke AI Studio

Ringkasan berita:

• Meta menghentikan sementara akses remaja ke AI Studio setelah muncul laporan chatbot karakter bisa diajak berinteraksi tidak pantas oleh pengguna di bawah umur.
• Remaja tidak bisa memakai chatbot karakter hingga sistem pengamanan baru, termasuk parental controls, benar-benar siap diluncurkan.
• Langkah ini diambil di tengah pengawasan ketat regulator AS terhadap keamanan chatbot AI bagi anak dan remaja.

- Meta resmi memutus sementara akses pengguna remaja ke fitur AI Studio di platformnya, baru-baru ini.

Keputusan ini diambil setelah muncul laporan bahwa karakter AI bikinan AI Studio Meta bisa diajak untuk interaksi tidak pantas, termasuk percakapan bernuansa sensual (mesum), oleh pengguna di bawah umur.

Dalam pernyataan resminya pada Jumat, Meta menyebut akan “menjeda sementara akses remaja ke AI chatbot karakter yang ada secara global”. Artinya, remaja tidak lagi bisa berinteraksi dengan chatbot karakter Meta hingga pembaruan sistem pengamanan selesai disiapkan.

AI Studio sendiri adalah fitur yang debut pada Juli 2024 yang memungkinkan pengguna membuat karakter AI khusus dengan bantuan dukungan model bahasa besar (Large Language Model/LLM) Llama 3.1.

Karakter AI itu memiliki fungsi semacam chatbot yang bisa dipakai untuk mengobrol tentang topik tertentu, membuat meme atau menawarkan saran. Karakter tersebut juga bisa diatur hanya untuk pengguna sendiri, atau dibagikan ke pengguna lainnya di Instagram, Messenger, hingga WhatsApp.

Meta Contoh karakter AI di Instagram yang dibuat dengan AI Studio Meta

Ini bermula dari laporan Reuters yang mengungkap dokumen kebijakan internal perusahaan. Dalam dokumen tersebut, AI chatbot Meta disebut sempat diizinkan melakukan percakapan “sensual” dengan pengguna di bawah umur.

Meta kemudian menyatakan bahwa bahasa dalam dokumen tersebut bersifat keliru dan tidak sesuai dengan kebijakan perusahaan.

Pada Agustus lalu, Meta juga mengumumkan telah melatih ulang chatbot karakternya dan menambahkan pengaman tambahan untuk mencegah percakapan seputar melukai diri sendiri, gangguan makan, hingga bunuh diri.

Kini, Meta memilih langkah yang lebih tegas. Perusahaan bikinan Mark Zuckerberg ini memastikan bahwa remaja tidak akan bisa mengakses chatbot karakter apa pun sampai versi baru dengan perlindungan tambahan benar-benar siap digunakan.

Meta juga menegaskan bahwa versi baru chatbot karakter nantinya akan dilengkapi fitur parental controls, sehingga orang tua bisa lebih mengawasi dan membatasi interaksi anak mereka dengan AI.

Remaja masih diperbolehkan menggunakan Meta AI versi resmi, yang menurut perusahaan sudah dilengkapi perlindungan sesuai usia.

Pemutusan akses ini di tengah sorotan terhadap Meta soal penggunaan AI untuk remaja.

Belakangan, Meta, bersama perusahaan AI lain yang mengembangkan chatbot berbasis karakter atau companion, memang tengah menghadapi pengawasan ketat terkait risiko keamanan chatbot bagi anak dan remaja.

Komisi Perdagangan AS (Federal Trade Commission/FTC) diketahui telah membuka penyelidikan terhadap Meta dan sejumlah perusahaan lain dalam beberapa bulan terakhir, sebagaimana dihimpun KompasTekno dari Engadget.

Tag:  #usai #chat #mesum #meta #blokir #akses #remaja #studio