Sekian Biaya yang Dihabiskan OpenAI saat Pengguna Bilang ''Tolong'' dan ''Terima Kasih'' ke ChatGPT

- Beberapa pengguna ChatGPT, mungkin sering mengucapkan "tolong" dan "terima kasih" ke chatbot AI itu saat memasukkan prompt.

Kedua ucapan itu memberikan kesan "sopan", sekalipun pengguna sedang "mengobrol" dengan chatbot kecerdasan buatan/artificial intelligence (AI).

Akan tetapi, sering mengucapkan "tolong" dan "terima kasih" atau sekadar berbasa-basi dengan ChatGPT, ternyata membutuhkan banyak energi untuk model AI.

Hal tersebut diungkap oleh Sam Altman, CEO OpenAI perusahaan induk ChatGPT.

Seorang pengguna X (dulu Twitter), bertanya, berapa konsumsi listrik yang dihabiskan OpenAI, karena banyak orang berlaku sopan ke ChatGPT.

"Saya penasaran berapa banyak biaya listrik yang dihabiskan OpenAI karena orang-orang mengucapkan 'tolong' dan 'terima kasih' ke model AI mereka," tanya pengguna X Twitter dengan handle @tomieinlove.

Altman lantas menjawab bahwa perusahaannya menghabiskan puluhan juta dollar dengan "baik".

"Puluhan juta dollar terpakai dengan baik. Anda tidak akan pernah tau," kata Altman lewat akun X-nya dengan handle @sama.

Namun dia tak merinci berapa biaya yang terkuras sebenarnya. Jawaban Altman menyiratkan bahwa OpenAI tidak begitu keberatan dengan "beban" akibat kesopanan yang diberikan penggunanya.

Berapa biaya yang dihabiskan OpenAI karena kata "tolong" dan "terima kasih"?

ChatGPT (versi GTP-3.5 Turbo) biayanya sekitar 0,0015 dollar AS untuk setiap 1.000 token input dan 0,002 dollar AS untuk setiap 1.000 token output.

Token di sini, bisa berupa satu kata pendek atau sebagian dari kata, atau bahkan satu karakter seperti tanda baca.

Misalnya saja, kata "halo" bernilai 1 token, lalu "terima kasih" bernilai 2 token. Akan tetapi, nilai token tadi bisa berbeda-beda, tergantung bahasa yang diugunakan.

Nah, kata-kata seperti "tolong" dan "terima kasih" biasanya menambah sekitar 2 sampai 4 token.

Jadi, biaya untuk satu kali penggunaan (yang menyertakan kata sopan) sangat kecil—sekitar 0,0000015 dollar AS sampai 0,000002 dollar AS per percakapan.

Berdasarkan perkiraan kasar, biaya ini bisa mencapai sekitar 400 dollar AS (sekitar Rp 6,7, asumsi 1 dollar AS= Rp 16.859) per hari atau 146.000 dollar AS (sekitar Rp 2,4 miliar) per tahun.

Untuk biaya listrik, Lembaga Penelitian Listrik dari Badan Informasi Energi AS memperkirakan tagihan listrik bulanan OpenAI sekitar 12 juta dollar AS (sekitar Rp 202 juta), atau sekitar 140 juta dollar AS (sekitar Rp 2,3 triliun) per tahun.

Angka ini mencakup semua interaksi, bukan hanya yang sopan. Jadi, meskipun secara teori penggunaan kata-kata sopan bisa menyumbang biaya lebih dari 10 juta dollar AS (sekitar Rp 168 miliar) per tahun, tidak ada data yang lebih rinci. Hal ini hanya diketahui oleh tim internal OpenAI, dirangkum dari Tech Spot.

Berapa banyak listrik yang dibutuhkan?

Secara teknis, sebuah model AI—termasuk yang digunakan oleh ChatGPT—memang harus melalui proses pelatihan agar mampu menjalankan berbagai tugas, mulai dari mengenali gambar hingga memahami bahasa.

Pelatihan ini memanfaatkan kumpulan data berukuran besar serta perangkat keras bertenaga tinggi, seperti graphics processing unit (GPU), tensor processing unit (TPU), dan chip kuat lainnya.

Dalam proses pelatihan maupun saat memproses setiap prompt dari pengguna, model AI mengonsumsi listrik dalam jumlah besar.

Komponen-komponen pendukung AI juga menghasilkan panas dalam jumlah signifikan selama pelatihan, sehingga dibutuhkan sistem pendingin, baik berupa pendingin udara maupun cair, yang juga memerlukan konsumsi listrik hampir setara dengan komponen utama.

Sebagai gambaran, pelatihan model AI seperti GPT milik OpenAI memerlukan konsumsi energi dalam skala ratusan hingga ribuan megawatt-hour.

GPT-3, misalnya, menghabiskan sekitar 1.287 megawatt-hour (MWh), jumlah energi yang cukup untuk menyuplai listrik bagi 120 rumah di Amerika Serikat selama satu tahun, menurut laporan KompasTekno yang bersumber dari The Economic Times, Selasa (22/4/2025).

Berapa listrik yang dibutuhkan model AI GPT-4?

OpenAI memiliki model AI GPT-4 yang lebih cerdas dibanding GPT-3. Kecanggihan GPT-4 dimungkinkan karena model AI ini dilatih menggunakan sekitar 25.000 GPU Nvidia A100 selama 90-100 hari.

Biaya pelatihan model ini dilaporkan mencapai 100 juta dollar AS.

Mari kita lihat rincian hitung-hitungan estimasi konsumsi listrik yang dibutuhan untuk melatih GPT-4 berdasarkan laporan Towards Data Science.

Kita asumsikan GPU dipasang di server Nvidia HGX yang masing-masing dapat menampung 8 GPU. Berarti, GPT-4 membutuhkan 25.000/8 = 3.125 server.

Salah satu cara untuk memperkirakan konsumsi listrik dari informasi ini adalah dengan mempertimbangkan daya desain termal (TDP) server Nvidia HGX.

TDP, yang dilambangkan dalam watt, menyatakan konsumsi daya perangkat keras di bawah beban teoritis maksimum. Konsumsi daya aktual mungkin berbeda.

Nvidia tidak mengungkapkan informasi ini, jadi mari kita gunakan TDP dari server Nvidia DGX yang serupa, yaitu 6,5 kW.

Jadi, jika server Nvidia DGX berjalan dengan daya penuh selama 1 jam, server tersebut akan mengonsumsi 6,5 KWh, berdasarkan perhitungan TDP.

Seperti disebut sebelumnya, model AI GPT-4 disebut membutuhkan diperlukan waktu 90–100 hari untuk melatih GPT-4. Itu berarti 90 x 24 jam= 2.160 jam per server atau 100 x 24 jam = 2.400 jam per server.

Jika kita berasumsi server beroperasi dengan daya penuh secara konstan, kita dapat mengalikan jumlah jam dengan 6,5 KWh.

Dari situ, kita memperoleh bahwa selama pelatihan, setiap server mungkin telah mengonsumsi listrik sebesar 14.040 KWh hingga 15.600 KWh.

Karena butuh 3.125 server, maka 3.125 x 14.040 KWh = 43.875.000 KWh atau 3.125 x 15.600 = 48.750.000 KWh.

Saat menghitung konsumsi energi perangkat keras komputer, biasanya konsumsi energi perangkat keras dikalikan dengan apa yang disebut efektivitas penggunaan daya (PUE) pusat data, tempat perangkat keras tersebut beroperasi.

PUE adalah rasio yang menggambarkan seberapa efisien pusat data komputer menggunakan energi.

GPT-4 kemungkinan besar dilatih di pusat data Microsoft Azure, mengingat adanya kemitraan antara OpenAI dengan Microsoft. rata-rata 1,18. Perlu dicatat bahwa ini dapat bervariasi di antara pusat data.

Jadi, jika mengalikan konsumsi listrik perangkat keras sebesar 43.875.000 hingga 48.750.000 KWh dengan 1,18, maka didapatkan hasil 51.772.500 KWh dan 57.525.000 KWh.

Jadi, estimasi konsumsi listrik untuk melatih GPT-4 selama 90-100 hari adalah antara 51.772 MWh dan 57.525 MWh. Ini setara dengan konsumsi energi selama 5 hingga 6 tahun dari 1.000 rumah tangga AS pada umumnya.

Angka tersebut 40 kali lebih tinggi dari estimasi konsumsi listrik yang dikonsumsi pendahulunya, GPT-3, sebagaimana dihimpun KompasTekno dari Towards Data Center, Selasa (22/4/2025).

Tag:  #sekian #biaya #yang #dihabiskan #openai #saat #pengguna #bilang #tolong #terima #kasih #chatgpt