Nvidia Bikin Teknologi ''Pembatas'' agar Agen AI Tidak Kebablasan

- Produsen kartu pemrosesan grafis (Graphics Processing Unit/GPU), Nvidia, mengumumkan tiga layanan baru Nvidia Inference Microservices (NIM) yang akan menjadi "pembatas" teknologi kecerdasan buatan (AI).

Pembatas ini dibuat agar agen AI, yaitu AI yang dapat menggantikan seseorang dalam melakukan tugas tertentu, tidak kebablasan.

Agen AI sendiri dapat mengumpulkan data, menganalisisnya hingga membuat keputusan untuk menjalankan tugas.

Namun, agen AI ini terkadang memberikan respons yang kurang sesuai atau menyebabkan masalah keamanan, khususnya ketika pengguna mencoba mengotak-atiknya.

Adapun NIM merupakan layanan yang dioptimalkan Nvidia untuk mempercepat penerapan model AI pada infrastruktur cloud atau data center. NIM merupakan bagian dari rangkaian software Nvidia NeMo Guardrails.

Layanan ini juga berperan membantu perusahaan yang bermitra dengan Nvidia, dalam meningkatkan keamanan, tingkat presisi hingga skalabilitas aplikasi AI generatif.

Nah, untuk menjaga agen AI agar tidak kebablasan, Nvidia menambahkan tiga layanan baru NIM. Rinciannya sebagai berikut.

• Keamanan konten

Layanan ini akan melindungi AI agar tidak menghasilkan output yang bias atau berbahaya, dengan cara memastikan respons AI sesuai dengan standar etika yang berlaku.

• Pengendalian topik

NIM juga akan mengontrol topik agen AI agar tetap fokus pada topik yang sudah disepakati, demi menghindari penyimpanan atau konten yang tidak layak.

• Deteksi jailbreak

Layanan baru Nvdia juga menambahkan fitur deteksi upaya jailbreak, yaitu upaya untuk memodifikasi perangkat agar bisa "bebas" dari batasan yang ditetapkan produsen perangkat. Pada layanan NIM, Nvidia berupaya menjaga integritas AI pada skenario yang sudah ditetapkan.

Menurut Nvidia, layanan pembatas AI ini dilatih menggunakan Aegis Content Safety Dataset yang dimiliki dan dikurasi sendiri. Dataset ini mencakup lebih dari 35.000 sampel data yang sudah diberi anotasi oleh manusia, dan ditandai untuk keamanan AI.

"Dengan menerapkan beberapa model sebagai pembatas, pengembang dapat menutupi celah yang mungkin terjadi ketika hanya ada kebijakan dan perlindungan global yang umum, karena satu ukuran tidak bisa mengamankan dan mengontrol alur kerja agen AI yang kompleks, dengan benar," demikian keterangan Nvidia dikutip dari blog resminya.

Berkat layanan ini, pengembang nantinya dapat menyusun batasan untuk agen AI, tetapi tanpa menambah latensi. Walhasil, pengguna bisa tetap melakukan interaksi dengan agen AI tanpa waktu respons yang lama, dihimpun KompasTekno dari Hardware Zone, Senin (20/1/2025). 

Tag:  #nvidia #bikin #teknologi #pembatas #agar #agen #tidak #kebablasan