Mulai Meresahkan, Google Ungkap Cara Lindungi Pengguna dari Deep Fake yang Dibuat AI

  - Kecerdasan buatan atau Artificial Intelligence (AI) diyakini akan menjadi perubahan teknologi terbesar dalam hidup kita. AI akan menciptakan peluang yang luar biasa besar serta mentransformasi setiap lapisan masyarakat.    Di Indonesia, pemerintah bahkan mulai menyatakan minat pemanfaatan teknologi ini demi memberikan manfaat bagi masyarakatnya melalui upaya-upaya untuk menjembatani kesenjangan bahasa, meningkatkan kualitas pelayanan masyarakat dan layanan kesehatan, serta memberdayakan individu melalui pengembangan keterampilan, dan masih banyak lagi.   Sayangnya, jika bicara AI, dampaknya tak selalu positif. Bak dua sisi mata pisau, AI membawa dampak negatif juga. Dan ini yang paling ditakutkan masyarakat yakni membuat konten atau media palsu untuk tujuan tertentu yang menyesatkan. Biasanya disebut dengan deep fake.   Baru kejadian kemarin, semakin canggih, sebuah video menampilkan diskusi di televisi antara jurnalis Najwa Shihab dengan artis Ibu Kota Raffi Ahmad dan Atta Halilintar soal promosi situs judi yang viral di media sosial. Dipastikan video tersebut hoaks dan dibuat menggunakan AI.   Salah satu yang juga gencar mengembangkan AI adalah Google. Melihat fenomena tersebut, dampak negatif dari teknologi AI, Google menyadari bahwa kita harus berani bersikap dan bertanggung jawab bersama-sama. Karena seperti teknologi transformatif lainnya, akan muncul berbagai tantangan yang perlu kita atasi.   Michaela Browning, VP, Government Affairs and Public Policy, Google Asia Pacific menyampaikan, untuk mengembangkan AI secara bertanggung jawab, kita harus bisa menyeimbangkan upaya dalam memaksimalkan dampak positif AI dan mengatasi potensi risiko yang muncul.    "Walau terlihat rumit, hal ini harus kita upayakan bersama untuk mencapai keberhasilan jangka panjang. Hanya dengan memprioritaskan tanggung jawab sejak awal lah kita dapat benar-benar memanfaatkan kekuatan transformatif AI tanpa mengorbankan kesejahteraan masyarakat," katanya melalui keterangannya.    Salah satu contoh cara Google menyikapi hal ini adalah dengan mengantisipasi dan menguji berbagai risiko keselamatan dan keamanan, termasuk munculnya bentuk-bentuk baru konten audio atau video sintetik dan fotorealistik yang dihasilkan oleh AI, yang juga dikenal sebagai “media sintetis”.   Meskipun teknologi ini memiliki banyak manfaat, misalnya, untuk membuka berbagai peluang baru bagi para penyandang tunawicara dan disleksia, atau menjadi sumber inspirasi kreatif baru bagi para artis dan studio film di seluruh dunia, teknologi ini menimbulkan kekhawatiran ketika digunakan dalam kampanye disinformasi dan untuk tujuan jahat lainnya, yaitu melalui deep fake.   Potensi penyalahgunaan teknologi ini untuk menyebarkan narasi palsu dan konten yang direkayasa dapat menimbulkan banyak dampak negatif. Salah satunya adalah video hoaks promosi judi online seperti sudah disinggung di atas.    Google menyebut, pihaknya berupaya membantu mengatasi potensi risiko ini dengan berbagai cara. Salah satu upaya penting yang dilakukan adalah membantu pengguna untuk bisa mengidentifikasi konten yang dihasilkan AI, dan memberikan pengetahuan kepada masyarakat agar mereka bisa tahu ketika mereka berinteraksi dengan media yang dihasilkan AI.    "Itulah sebabnya kami menambahkan keterangan “Tentang hasil ini” pada fitur AI generatif di Google Search, supaya orang-orang dapat terbantu saat mengevaluasi informasi yang diperoleh dari fitur baru ini. Kami juga memperkenalkan cara baru untuk membantu orang-orang memeriksa kembali respons yang mereka lihat di Google Bard dengan mengaitkannya ke Google Search," lanjut Michaela.   Sama halnya, konteks juga berperan penting dalam gambar, dan Google menyebut mereka berkomitmen untuk memastikan bahwa setiap gambar yang dihasilkan melalui produk kami diberi label metadata dan diberi watermark oleh SynthID, yang saat ini dirilis ke sejumlah kecil pelanggan Vertex AI yang menggunakan Imagen, salah satu model text-to-image terbaru Google yang menggunakan input teks untuk membuat gambar fotorealistik.    Google juga telah mencapai progres yang signifikan dalam membuat alat untuk mendeteksi audio sintetis. Pada project AudioLM, Google melatih alat pengklasifikasi yang dapat mendeteksi audio sintetis pada model AudioLM milik kami, dengan tingkat akurasi hampir 99 %.   Dalam beberapa bulan mendatang, YouTube juga akan mewajibkan kreator untuk mengungkapkan konten yang diubah atau konten sintetis yang realistis, termasuk yang dibuat dengan alat AI. Google juga akan memberi tahu penonton tentang konten tersebut melalui label di panel deskripsi dan pemutar video dengan melibatkan para kreator.   Kami terus mendengar masukan dari kreator, penonton, dan artis mengenai dampak teknologi baru ini terhadap mereka. Apa lagi ketika wajah atau suara seseorang dapat dibuat secara digital tanpa izin, atau digunakan untuk menyampaikan perspektif yang menyesatkan mengenai topik tertentu.    Dalam beberapa bulan lagi, di YouTube juga akan meluncurkan fitur untuk menghapus konten buatan AI, atau konten sintetis atau konten rekayasa lainnya yang meniru seseorang, termasuk wajah atau suaranya, melalui proses permintaan privasi.   Kebijakan untuk fitur Google Search seperti Panel Info atau Cuplikan Pilihan, juga melarang konten audio, video, atau gambar yang telah dimanipulasi untuk menipu, mencurangi, atau menyesatkan pengguna. Sementara itu di Google Play, aplikasi yang menghasilkan konten menggunakan AI diwajibkan untuk mematuhi semua Kebijakan Developer Google Play, yang melarang pembuatan konten terlarang dan konten yang memfasilitasi perilaku menipu.   Namun, menurut Michaela, tidak ada cara yang benar-benar ampuh untuk memberantas penyebaran “deep fake” dan misinformasi yang dihasilkan AI. Hal ini memerlukan upaya kolaboratif, yang membutuhkan komunikasi terbuka, penilaian risiko yang ketat, dan strategi mitigasi yang proaktif.   Misalnya, di YouTube, Google mengombinasikan proses peninjauan manual oleh manusia dan teknologi machine learning untuk menegakkan Pedoman Komunitas kami, yang didukung oleh banyak petugas peninjau yang beroperasi di seluruh dunia.    "Dalam sistem kami, pengklasifikasi AI membantu mendeteksi konten yang berpotensi melanggar dalam skala besar, sementara petugas peninjau berupaya memastikan apakah konten tersebut benar-benar telah melanggar batas kebijakan. AI membantu kami untuk terus meningkatkan kecepatan dan keakuratan sistem moderasi konten kami," tegasnya.  

Tag:  #mulai #meresahkan #google #ungkap #cara #lindungi #pengguna #dari #deep #fake #yang #dibuat