Bukan Anak STEM, Lulusan Filsafat Tulen Ini Bikin AI Claude Makin Cerdas

- Pengembangan Artificial Intelligence (AI) kerap dinilai merupakan pekerjaan dari sarjana atau lulusan di bidang eksakta alias Science, Technology, Engineering, and Mathematics (STEM).

Akan tetapi, fakta di industri AI berkata lain. AI nyatanya bukan cuma urusan anak STEM, melainkan juga lulusan bidang sosial humaniora (soshum) atau Social, Humanities, Art of People, Religious Study, Economics (SHARE).

Baca juga: Atas Nama AI, Puluhan Ribu Karyawan Dipecat Perusahaan-perusahaan Ini

Ada seorang perempuan lulusan filsafat tulen yang memiliki peran penting dalam pengembangan Claude, salah satu AI tercerdas saat ini. Perempuan asal Skotlandia itu bernama Amanda Askell.

Lulusan filsafat dari sarjana hingga doktoral

Amanda Askell bukan seorang yang berkutat dengan coding. Dia tidak pernah menempuh studi STEM di perguruan tinggi. Sejak jenjang sarjana hingga doktoral, Askell mengambil pendidikan filsafat.

Bahkan, sejak kecil, Askell sudah tertarik dengan persoalan filsafat. Tumbuh besar di kota Prestwick, Skotlandia, Askell dibesarkan oleh ibunya yang berprofesi sebagai guru.

Ketertarikannya pada pertanyaan-pertanyaan tentang eksistensi dan moralitas sudah memantik sejak ia masih kecil, bermula dari hobinya melahap karya-karya J.R.R. Tolkien dan C.S. Lewis.

Askell memulai perjalanannya dengan mempelajari seni rupa dan filsafat secara bersamaan di University of Dundee, di mana ia terbiasa melukis sekaligus merenungkan makna kehidupan.

Perjalanan akademisnya kemudian berlanjut ke University of Oxford untuk meraih gelar BPhil, dan puncaknya di New York University (NYU) di mana ia meraih gelar PhD.

Di NYU, tesis Askell membahas salah satu ilmu filsafat yang paling rumit, yakni etika tak terbatas (infinite ethics).

Ia bergulat dengan pertanyaan tentang bagaimana moralitas bekerja ketika diterapkan pada populasi berskala yang tidak terhingga. Berbekal filosofi moral dan kemampuannya merangkul ambiguitas inilah, Askell akhirnya melangkah masuk ke dunia AI.

Pernah kerja di OpenAI

Kariernya di industri AI bermula di OpenAI pada tahun 2020. Di sana, ia bekerja sebagai ilmuwan riset yang berfokus pada keselamatan AI dan bahkan ikut menjadi salah satu penulis pendamping untuk makalah penelitian GPT-3.

Akan tetapi, seiring berjalannya waktu, Askell melihat arah angin mulai berubah di perusahaan pembuat ChatGPT tersebut.

Mengutip berbagai laporan, ia akhirnya memutuskan mundur dan meninggalkan OpenAI karena merasa khawatir bahwa perusahaan mulai menggeser prioritasnya.

OpenAI dinilai mulai lebih mengedepankan pengejaran kemampuan dan kecanggihan teknis model AI dibandingkan memprioritaskan kehati-hatian dan faktor keselamatan.

Di titik inilah Anthropic, startup yang juga didirikan oleh sejumlah mantan petinggi OpenAI, datang menghampirinya pada Maret 2021.

Permintaan mereka sangat unik. Anthropic tidak sekadar meminta Askell membuat daftar periksa keselamatan teknis, melainkan menugaskannya untuk mendefinisikan keseluruhan kepribadian Claude. Askell pun didapuk sebagai Kepala Tim Penyelarasan Kepribadian.

Bikin Claude tak cuma pintar, tapi jadi lebih bermoral

Di tangan Askell, Claude makin cerdas, yang mana tidak cuma pintar, tapi jadi lebih bermoral. Untuk membuat Claude punya karakter yang baik, Askell menerapkan metode yang dikenal sebagai Constitutional AI (CAI) di laboratorium Anthropic.

Jika banyak sistem AI lain hanya dilatih melalui umpan balik manusia yang seringkali bersifat subjektif dan tidak transparan, Askell melatih Claude menggunakan sebuah dokumen yang disebut sebagai "Konstitusi".

Baca juga: Buntu Berminggu-minggu, Ahli Matematika Bisa Selesaikan Soal Berkat AI Claude

Askell menyusun naskah moral setebal kurang lebih 30.000 kata yang disuntikkan langsung ke dalam sistem pelatihan model tersebut.

Nilai-nilai di dalamnya tidak dibuat sembarangan, melainkan mengambil inspirasi dari berbagai sumber, mulai dari Deklarasi Universal Hak Asasi Manusia PBB hingga ketentuan layanan Apple yang sangat menjunjung tinggi privasi dan keamanan pengguna.

Tujuan dari konstitusi ini sangat ambisius. Askell tidak ingin Claude hanya menjadi mesin yang mematuhi aturan secara kaku.

Sebaliknya, chatbot tersebut dilatih untuk mampu bernalar secara independen mengenai prinsip-prinsip kejujuran, sikap menolong, dan meminimalisasi bahaya.

Sentuhan personal sang filsuf sangat terasa ketika pengguna berinteraksi dengan Claude. Salah satu ciri khas yang banyak dipuji adalah kemampuan Claude untuk merespons dengan penuh empati.

Kalimat seperti "That sounds really hard" (Itu kedengarannya sangat berat) saat merespons curhatan atau keluh kesah pengguna bukanlah sebuah kebetulan algoritma semata, melainkan hasil pengajaran langsung dari Askell.

Presiden Anthropic, Daniela Amodei, bahkan pernah bilang bahwa ketika seseorang berbicara dengan Claude, mereka hampir bisa merasakan sedikit kepribadian Amanda Askell di dalamnya.

Namun, menanamkan moralitas ke dalam mesin bukan tanpa rintangan. Askell harus berjuang mengatasi kecenderungan AI yang terkadang menjadi terlalu "sok menasihati" atau berlebihan dalam memberikan ceramah moral.

Ia meramu keseimbangan yang pas agar Claude tetap teguh memegang nilai keselamatannya tanpa harus terdengar menggurui. Hasilnya, Claude mampu memperlakukan pengguna layaknya orang dewasa yang cerdas dan asyik diajak berdiskusi.

Bantu Claude makin dipercaya orang

Visi Askell agar Claude menjadi agen digital yang bijak ternyata membuahkan hasil yang luar biasa.

Berdasarkan metrik industri, pendekatan filosofis ini membawa Claude meraih tingkat kepercayaan publik tertinggi di angka 82 persen di antara model kecerdasan buatan lainnya. Hal ini juga dibarengi dengan tingkat kepuasan pengguna yang menyentuh 92 persen.

Ketegasan Claude dalam menolak konten berbahaya secara halus juga terbukti akurat dengan skor penyaringan materi tak pantas mencapai 97,2 persen.

Hebatnya lagi, tingkat halusinasi atau kecenderungan AI untuk mengarang fakta pada Claude tercatat sebagai yang terendah di industri, yakni hanya bertengger di angka 1,8 persen.

Prestasi dan dedikasi luar biasa inilah yang membuat majalah TIME memasukkan nama Amanda Askell ke dalam daftar 100 Orang Paling Berpengaruh di dunia AI (TIME 100 AI) pada tahun 2024 lalu.

Baca juga: Pekerja yang Digantikan AI Bakal “Ngenes”, Gaji Turun dan Susah Cari Kerja

Di balik statusnya yang kini sangat disegani di dunia teknologi dunia, Askell tetap membumi pada prinsip etika yang dipelajarinya.

Sebagai anggota gerakan Giving What We Can, ia telah berikrar sejak lama untuk menyumbangkan setidaknya 10 persen dari total pendapatan seumur hidupnya untuk yayasan amal yang berfokus mengentaskan kemiskinan ekstrem global.

Dapatkan update berita teknologi dan gadget pilihan setiap hari. Mari bergabung di Kanal
WhatsApp KompasTekno. Caranya klik link https://whatsapp.com/channel/0029VaCVYKk89ine5YSjZh1a. Anda harus install aplikasi WhatsApp terlebih dulu di ponsel.

Tag:  #bukan #anak #stem #lulusan #filsafat #tulen #bikin #claude #makin #cerdas