Apple Hapus Aplikasi Nakal yang Bisa Bikin Gambar Telanjang Palsu dengan AI Generatif

Apple dikabarkan menghapus beberapa aplikasi dari App Store, toko aplikasi mereka. Sebabnya, aplikasi tersebut dapat menghasilkan gambar telanjang menggunakan teknologi kecerdasan buatan atau Artificial Intelligence (AI) generatif.   Hanya beberapa hari setelah tersiar kabar tentang fitur AI yang bermasalah dalam melepas pakaian di ponsel Huawei, berita serupa juga muncul mengenai Apple. Demikian dilansir melalui 404 Media.   Perusahaan tersebut dilaporkan telah menghapus tiga aplikasi dari App Store yang diiklankan sebagai “generator seni” namun mempromosikan aplikasi tersebut di Instagram dan situs dewasa yang mengklaim bahwa mereka dapat “menelanjangi gadis mana pun secara gratis.”  

  Aplikasi-aplikasi ini mengeksploitasi AI untuk membuat gambar telanjang palsu dari individu yang berpakaian. Meskipun gambar tersebut tidak menggambarkan ketelanjangan yang sebenarnya, aplikasi ini dapat menghasilkan gambar yang dapat digunakan untuk pelecehan, pemerasan, dan pelanggaran privasi.   Yang mengkhawatirkan adalah tanggapan Apple muncul setelah 404 Media membagikan tautan ke aplikasi dan iklan mereka. Anehnya, aplikasi ini telah tersedia di App store sejak tahun 2022, mengiklankan fitur “menanggalkan pakaian” di situs dewasa.  

  Laporan tersebut juga menunjukkan bahwa aplikasi-aplikasi ini awalnya diizinkan untuk tetap berada di App Store jika mereka menghapus iklan dari situs dewasa. Namun, salah satu aplikasi tersebut menjalankan iklan hingga tahun 2024, ketika Google menariknya dari Play Store.   Apple kini akhirnya memutuskan untuk menghapus aplikasi tersebut dari App Store. Namun agak mengkhawatirkan, melihat sifat reaktif dari moderasi toko aplikasi dan potensi pengembang untuk mengeksploitasi celah.   Insiden ini terjadi pada saat yang sensitif bagi Apple. Sebab, acara temu pengembang, Apple WWDC 2024 sudah dekat dan perusahaan diperkirakan akan membuat pengumuman AI besar-besaran untuk iOS 18 dan Siri.  

  Apple juga telah secara aktif membangun reputasi untuk pengembangan AI yang bertanggung jawab, bahkan sampai melisensikan data pelatihan secara etis.   Sebaliknya, Google dan OpenAI menghadapi tuntutan hukum karena diduga menggunakan konten berhak cipta untuk melatih sistem AI mereka. Penundaan penghapusan aplikasi NCI oleh Apple berpotensi merusak citra yang dikembangkan dengan hati-hati.

Tag:  #apple #hapus #aplikasi #nakal #yang #bisa #bikin #gambar #telanjang #palsu #dengan #generatif