Kontroversi Generatif AI: UNESCO Keluarkan Panduan Global Tentang GenAI dalam Pendidikan, Ini Isi dan Panduannya

– Generatif AI (GenAI) adalah teknologi kecerdasan buatan (AI) yang mampu menghasilkan konten digital seperti teks, gambar, suara, atau video secara otomatis dengan menggunakan data yang ada. 

GenAI memiliki potensi untuk memberikan manfaat bagi dunia pendidikan, seperti meningkatkan kreativitas, personalisasi, dan evaluasi siswa dan guru. Namun, GenAI juga menimbulkan berbagai risiko dan tantangan etis, seperti pelanggaran privasi, plagiarisme, disinformasi, dan bias diskriminatif.

UNESCO, sebagai organisasi PBB yang bergerak di bidang pendidikan, ilmu pengetahuan, dan kebudayaan, telah mengeluarkan panduan global pertama tentang GenAI dalam pendidikan dan penelitian pada September 2023. 

Panduan ini bertujuan untuk mendukung negara-negara untuk mengimplementasikan tindakan segera, merencanakan kebijakan jangka panjang, dan mengembangkan kapasitas manusia untuk memastikan visi yang berpusat pada manusia terhadap teknologi baru ini seperti yang dilansir dari unesco.org, Sabtu (27/1).

Aspek-Aspek Kontroversi GenAI dalam Pendidikan

Menurut panduan UNESCO, terdapat beberapa aspek kontroversi yang muncul seiring dengan perkembangan dan penyebaran GenAI dalam pendidikan, antara lain:

1. Kemiskinan digital

GenAI membutuhkan akses internet yang cepat dan stabil, perangkat yang canggih, dan data yang melimpah. Hal ini dapat memperbesar kesenjangan digital antara negara-negara maju dan berkembang, serta antara kelompok-kelompok sosial yang berbeda. 

UNESCO menyarankan agar negara-negara meningkatkan infrastruktur digital, menyediakan perangkat yang terjangkau, dan mempromosikan inklusi digital bagi semua siswa dan guru.

2. Permasalahan etika dalam pelatihan model

GenAI menggunakan data yang dikumpulkan dari berbagai sumber, termasuk dari pengguna akhir, untuk melatih model AI yang dapat menghasilkan konten. Data ini dapat mengandung informasi pribadi, sensitif, atau rahasia yang dapat disalahgunakan oleh pihak-pihak yang tidak bertanggung jawab. 

UNESCO menekankan pentingnya perlindungan privasi data, persetujuan yang jelas dan terinformasi, dan transparansi dalam pengumpulan dan pengolahan data.

3. Penggunaan konten tanpa izin

GenAI dapat menghasilkan konten yang mirip atau identik dengan konten asli yang dilindungi hak cipta. Hal ini dapat melanggar hak kekayaan intelektual dan merugikan pencipta konten. 

Panduan dari UNESCO menyarankan agar negara-negara mengadaptasi peraturan hak cipta yang sesuai dengan perkembangan GenAI, serta mengedukasi siswa dan guru tentang etika penggunaan konten.

4. Ketidakjelasan model

GenAI seringkali sulit untuk dipahami bagaimana cara kerja dan logika di baliknya. Hal ini dapat menimbulkan keraguan, ketidakpercayaan, atau kesalahan dalam penggunaan GenAI. 

Untuk itu, UNESCO menyarankan agar negara-negara mendorong pengembangan model GenAI yang dapat dijelaskan, diverifikasi, dan dipertanggungjawabkan, serta memberikan informasi yang cukup kepada pengguna tentang sumber, tujuan, dan batasan GenAI.

5. Potensi ancaman deepfake

GenAI dapat digunakan untuk membuat konten palsu yang meniru wajah, suara, atau perilaku orang lain dengan sangat meyakinkan. Konten ini dapat digunakan untuk menyebarkan disinformasi, memfitnah, atau menipu orang lain. 

Sebab itu, UNESCO menyarankan agar negara-negara mengembangkan metode deteksi dan verifikasi konten, serta meningkatkan literasi digital dan kritis bagi siswa dan guru.

Panduan atau Langkah-Langkah untuk Mengatur GenAI dalam Pendidikan

UNESCO juga mengusulkan langkah-langkah yang dapat diambil oleh negara-negara untuk mengatur penggunaan GenAI dalam pendidikan, antara lain.

• Menetapkan prinsip-prinsip etis dalam penggunaan GenAI

• Mengembangkan kerangka kebijakan yang koheren

• Meningkatkan kapasitas sumber daya manusia yang kritis dan berkualitas

• Mendorong inovasi dan kolaborasi antara semua pemangku pendidikan

GenAI merupakan teknologi yang memiliki peluang dan tantangan yang besar bagi dunia pendidikan dan penelitian. 

Untuk memastikan bahwa GenAI digunakan untuk kebaikan dan kesejahteraan manusia, diperlukan tindakan yang cepat dan komprehensif dari pemerintah, lembaga pendidikan, dan masyarakat. 

UNESCO berkomitmen untuk mendampingi negara-negara dalam menghadapi tantangan ini, dengan memberikan panduan, dukungan, dan informasi untuk memberikan kemudahan akses yang dibutuhkan oleh masyarakat.

Tag:  #kontroversi #generatif #unesco #keluarkan #panduan #global #tentang #genai #dalam #pendidikan #panduannya