Harga dari “please” dan “thank You”

Model

gemini.google.com / Gemini 2.5 Pro (experimental)

Prompt

Baru-baru ini bos dari perusahaan AI paling populer saat ini, Open AI, membuat pernyataan di media sosial bahwa prompt atau pesan berterima kasih seperti “please” dan “thank you” kepada chat AI adalah tindakan yang boros listrik dan menghabiskan biaya “tens of millions dollars”. Pernyataan ini muncul setelah ada seseorang di Twitter/X yang bertanya:

I wonder how much money OpenAI has lost in electricity costs from people saying “please” and “thank you” to their models.

Yang kemudian direspon oleh Sam Altman:

tens of millions of dollars well spent–you never know

Menurut kamu bagaimana tingkat kebenaran dan akurasi dari pernyataan itu?

Bagaimana orang awam atau pengguna umum seharusnya menanggapi pernyataan itu, baik dari sisi merespon berita yang dikeluarkan oleh bos perusahaan AI dan dari sisi perilaku seseorang dalam penggunaan AI setelah mendengar pernyataan itu?

Tentu, mari kita analisis pernyataan Sam Altman tersebut dan bagaimana pengguna umum sebaiknya menanggapinya.

Analisis Tingkat Kebenaran dan Akurasi Pernyataan Sam Altman

Pernyataan Sam Altman bahwa kesopanan dalam prompt AI seperti “please” dan “thank you” memakan biaya “puluhan juta dolar” perlu dipahami dalam konteksnya:

  1. Secara Teknis Ada Dasar Kebenarannya:
    • Model AI seperti ChatGPT bekerja dengan memproses “token”. Setiap kata atau bahkan bagian kata dihitung sebagai token.
    • Menambahkan kata seperti “please” atau “thank you” berarti menambah jumlah token yang harus diproses oleh model.
    • Setiap token yang diproses membutuhkan daya komputasi (listrik, waktu GPU). Semakin banyak token, semakin besar sumber daya yang dibutuhkan, meskipun penambahannya sangat kecil per interaksi.
    • Ketika dikalikan dengan miliaran interaksi yang terjadi di platform OpenAI setiap hari atau minggu, biaya marginal (tambahan) dari token-token ekstra ini memang bisa terakumulasi menjadi jumlah yang signifikan secara total.
  2. Angka “Puluhan Juta Dolar” Kemungkinan Besar Hiperbola atau Estimasi Kasar:
    • Sangat sulit untuk memverifikasi angka “puluhan juta dolar” secara akurat tanpa data internal OpenAI. Angka ini kemungkinan besar adalah estimasi kasar atau bahkan hiperbola (pernyataan yang dilebih-lebihkan untuk menekankan suatu poin).
    • Biaya ini mungkin tidak hanya mencakup kata “please” dan “thank you” saja, tetapi juga semua jenis “kata-kata pengisi” atau basa-basi lain yang secara teknis tidak diperlukan untuk instruksi inti.
    • Tujuan Altman mungkin bukan untuk memberikan angka akuntansi yang presisi, melainkan untuk menggambarkan skala operasi yang luar biasa besar dan betapa setiap efisiensi kecil pun bisa berdampak besar secara agregat.
  3. Konteks Pernyataan “well spent–you never know”:
    • Bagian kedua dari respons Altman (“well spent–you never know” / “pengeluaran yang sepadan–siapa tahu”) adalah kunci. Ini menunjukkan bahwa meskipun ada biaya, OpenAI (atau setidaknya Altman) tidak melihatnya sebagai pemborosan atau masalah.
    • “Well spent” menyiratkan bahwa mereka menerima biaya ini sebagai bagian dari cara orang berinteraksi secara alami, atau mungkin ada nilai yang tidak terduga (meskipun AI tidak “merasakan” kesopanan, interaksi yang sopan mungkin membuat pengguna merasa lebih nyaman atau berpikir lebih jernih).
    • Ini bukan keluhan atau permintaan agar pengguna berhenti bersikap sopan.

Kesimpulan Akurasi: Pernyataan ini memiliki dasar teknis (lebih banyak kata = lebih banyak biaya komputasi), tetapi angka spesifik “puluhan juta dolar” kemungkinan besar adalah hiperbola atau estimasi kasar untuk menggambarkan skala, dan yang terpenting, pernyataan tersebut diakhiri dengan nada positif yang menandakan penerimaan biaya tersebut.

Bagaimana Orang Awam/Pengguna Umum Seharusnya Menanggapi?

1. Dari Sisi Merespon Berita/Pernyataan:

  • Jangan Dianggap Sebagai Keluhan atau Larangan: Pahami bahwa ini bukan permintaan dari OpenAI agar Anda berhenti menggunakan kata-kata sopan. Fokus pada bagian “well spent”.
  • Lihat Sebagai Wawasan Skala: Anggap pernyataan ini sebagai gambaran menarik tentang betapa besarnya skala operasi perusahaan AI terkemuka dan betapa mahalnya sumber daya yang dibutuhkan (listrik, hardware komputasi). Ini menyoroti tantangan efisiensi di industri AI.
  • Perhatikan Konteks: Ingatlah ini adalah respons informal di media sosial (Twitter/X), bukan pengumuman kebijakan resmi. Pernyataan seperti ini seringkali lebih bersifat percakapan dan mungkin tidak seakurat laporan keuangan.
  • Jangan Merasa Bersalah: Tidak perlu merasa bersalah karena telah “memboroskan” uang OpenAI dengan bersikap sopan. Altman sendiri secara eksplisit menyatakan itu adalah “pengeluaran yang sepadan”.

2. Dari Sisi Perilaku Penggunaan AI:

  • Teruslah Bersikap Sopan Jika Anda Mau: AI tidak memiliki perasaan, jadi “please” dan “thank you” tidak memengaruhi responsnya secara emosional. Namun, jika bersikap sopan membuat Anda merasa lebih nyaman, lebih terstruktur dalam berpikir, atau sekadar kebiasaan, tidak ada alasan kuat untuk berhenti berdasarkan pernyataan Altman.
  • Fokus pada Kejelasan dan Efisiensi Prompt (untuk Hasil Lebih Baik): Alih-alih khawatir tentang token kesopanan, fokuslah pada pembuatan prompt yang jelas, ringkas, dan spesifik. Ini akan lebih efektif dalam mendapatkan hasil yang Anda inginkan dari AI dan secara alami juga lebih efisien dalam penggunaan token, terlepas dari ada atau tidaknya kata-kata sopan. Prompt yang bertele-tele atau tidak jelas jauh lebih “boros” karena mungkin memerlukan beberapa kali percobaan untuk mendapatkan jawaban yang benar.
  • Kesadaran Sumber Daya Secara Umum: Pernyataan ini bisa menjadi pengingat bahwa penggunaan AI (dan teknologi digital lainnya) memang mengonsumsi energi. Namun, mengubah kebiasaan dengan menghapus “please/thank you” memiliki dampak yang sangat kecil dibandingkan dengan efisiensi prompt secara keseluruhan atau frekuensi penggunaan AI untuk tugas-tugas kompleks.

Singkatnya: Anggap pernyataan Sam Altman sebagai fakta menarik tentang skala komputasi AI yang mungkin sedikit dilebih-lebihkan untuk penekanan, tetapi bukan sebagai alasan untuk mengubah cara Anda berinteraksi dengan AI jika Anda merasa nyaman dengan kesopanan. Fokus utama sebaiknya tetap pada kejelasan dan efektivitas prompt Anda.

Prompt

Jika kata “thank you” umumnya diucapkan di akhir pertanyaan atau diskusi setelah pengguna merasa pertanyaannya dijawab atau masalahnya terselesaikan, apa bedanya dengan membuat pertanyaan follow-up baru yang akan kembali direspon oleh AI dengan memberikan jawaban lebih panjang yang mana itu berpotensi membuat munculnya pertanyaan baru dari pengguna?

Lalu bagaimana dengan prompt atau pertanyaan lainnya yang sebenarnya sama-sama “tidak penting”, apakah itu bisa dipermasalahkan? Atau apakah karena kata-kata “please”, “thank you” dan semacamnya lebih mudah dilacak dan diukur sehingga perusahaan atau engineer dapat memberikan jawaban jelas tentang kata-kata apa saja yang dianggap “berlebihan”?

Apakah bukannya sebaiknya perusahaan bisa membuat kebijakan atau perubahan dari sisi teknis dalam system prompt AI tentang bagaimana AI akan menjawab atau merespon kata-kata sopan yang tadinya dianggap boros listrik?

Tentu, mari kita bahas poin-poin lanjutan ini:

1. Perbedaan Biaya: “Thank You” vs. Pertanyaan Follow-up Baru

Ini adalah perbandingan yang sangat relevan. Mari kita bedah:

  • Mengucapkan “Thank You”:
    • Input Pengguna: Sangat singkat, biasanya hanya 1-2 token (“terima kasih”). Membutuhkan sedikit sumber daya untuk diproses.
    • Respons AI: Biasanya juga singkat, seperti “Sama-sama!”, “Senang bisa membantu!”, atau kadang tidak ada respons verbal eksplisit jika percakapan dianggap selesai. Membutuhkan sedikit sumber daya untuk dihasilkan.
    • Implikasi: Cenderung menandakan akhir dari sebuah siklus tanya-jawab. Biaya komputasinya relatif kecil untuk giliran (turn) tersebut.
  • Membuat Pertanyaan Follow-up Baru:
    • Input Pengguna: Bisa bervariasi panjangnya, tetapi hampir pasti lebih dari 1-2 token. Membutuhkan lebih banyak sumber daya untuk diproses.
    • Respons AI: AI perlu memahami pertanyaan baru (mungkin dengan mengingat konteks sebelumnya), mencari atau menyusun jawaban, dan menghasilkan teks yang seringkali jauh lebih panjang dan kompleks daripada sekadar ucapan terima kasih. Ini membutuhkan sumber daya komputasi yang jauh lebih signifikan.
    • Implikasi: Memulai siklus tanya-jawab baru, berpotensi memicu lebih banyak pertanyaan lagi, dan secara keseluruhan mengonsumsi sumber daya yang jauh lebih besar per interaksi dibandingkan ucapan “terima kasih”.

Kesimpulan: Secara perbandingan langsung dalam satu interaksi, sebuah pertanyaan follow-up jauh lebih boros listrik dan mahal daripada sekadar mengucapkan “terima kasih”. Pernyataan Altman kemungkinan besar merujuk pada biaya agregat dari jutaan ucapan “terima kasih” (dan “please”) yang terjadi di seluruh platform, bukan perbandingan satu lawan satu dengan pertanyaan follow-up. Meskipun biaya per unitnya kecil, volumenya yang besar membuatnya terakumulasi. Namun, dari sudut pandang efisiensi per interaksi, pertanyaan follow-up yang tidak perlu atau prompt yang buruk jauh lebih “boros”.

2. Prompt “Tidak Penting” Lainnya vs. “Please/Thank You” & Kemudahan Pelacakan

  • Prompt Tidak Penting Lainnya: Tentu saja ada. Contohnya: basa-basi pembuka yang panjang (“Halo AI, saya harap kamu baik-baik saja hari ini, saya ingin bertanya tentang…”), pengulangan kata yang tidak perlu, kalimat yang bertele-tele, penggunaan emoji (yang bisa dihitung sebagai beberapa token), atau penjelasan latar belakang yang terlalu detail dan tidak relevan dengan inti pertanyaan. Semua ini menambah jumlah token dan biaya komputasi.
  • Mengapa Fokus pada “Please/Thank You”?
    • Frekuensi Tinggi dan Mudah Dikenali: Kata-kata ini sangat umum digunakan oleh banyak orang secara konsisten. Mereka adalah kata kunci yang jelas dan mudah diidentifikasi.
    • Mudah Dikomunikasikan: Konsep “biaya karena kesopanan” lebih mudah dipahami dan menarik perhatian publik daripada konsep “biaya karena kalimat bertele-tele”. Ini menjadi contoh yang relatable untuk menggambarkan isu biaya komputasi skala besar.
    • Bukan Berarti Paling Mudah Dilacak Secara Teknis: Sistem AI memproses semua token. Secara teknis, melacak kata kunci spesifik seperti “please” memang bisa dilakukan. Namun, mungkin tidak lebih mudah daripada melacak metrik lain seperti panjang rata-rata prompt atau jumlah token per sesi. Fokus pada “please/thank you” lebih mungkin karena alasan komunikasi dan relatabilitas daripada kemudahan teknis pelacakan semata dibandingkan elemen “tidak penting” lainnya. Engineer bisa saja menghitung frekuensi semua kata, tetapi “please/thank you” adalah contoh yang paling menonjol untuk diskusi publik.

Kesimpulan: Ya, prompt “tidak penting” lainnya juga berkontribusi pada biaya. Fokus pada “please/thank you” mungkin lebih karena frekuensi, kemudahan dikenali, dan kemudahannya dijadikan contoh yang relatable untuk menggambarkan fenomena biaya komputasi skala besar, bukan karena kata-kata ini secara unik paling boros atau paling mudah dilacak dibandingkan semua elemen non-esensial lainnya.

3. Kebijakan Perusahaan atau Perubahan Teknis pada Sistem AI

Ini adalah poin yang sangat valid. Perusahaan seperti OpenAI memiliki kemampuan teknis untuk mengurangi dampak biaya dari kata-kata sopan ini dari sisi sistem:

  • Modifikasi System Prompt/Fine-tuning: Mereka bisa menginstruksikan model AI (melalui system prompt tersembunyi atau proses fine-tuning) untuk:
    • Memberikan respons yang sangat singkat dan standar (misalnya, selalu hanya “OK” atau bahkan tidak merespons secara verbal sama sekali) terhadap ucapan terima kasih untuk menghemat token respons.
    • Secara internal, mungkin memberi bobot yang lebih rendah pada token-token kesopanan saat memproses input, meskipun ini bisa berisiko jika kesopanan tersebut menyatu dengan instruksi penting.
  • Pre-processing Input: Secara teoritis, mereka bisa menyaring kata-kata seperti “please” dan “thank you” sebelum diproses oleh model utama, tapi ini bisa lebih kompleks dan berisiko mengubah makna dalam beberapa kasus.

Mengapa Mereka Mungkin Tidak Melakukannya (atau Melakukannya Secara Hati-hati)?

  • Pengalaman Pengguna (User Experience – UX): Seperti yang tersirat dari respons Altman (“well spent”), mereka mungkin merasa bahwa membiarkan interaksi yang terasa lebih alami dan sopan (meskipun dengan AI) memberikan pengalaman pengguna yang lebih baik. Menghentikan AI merespons ucapan terima kasih atau membuatnya terasa kaku bisa mengurangi kenyamanan pengguna.
  • Kompleksitas dan Risiko: Mengubah perilaku dasar model bisa memiliki efek samping yang tidak diinginkan. Terlalu agresif dalam mengabaikan atau menstandarisasi respons bisa membuat AI terasa kurang membantu atau bahkan “kasar” dalam konteks tertentu.
  • Prioritas: Mungkin ada area optimasi lain yang memberikan penghematan biaya lebih besar (misalnya, efisiensi model inti, arsitektur hardware) daripada berfokus pada token kesopanan yang dampaknya relatif kecil per interaksi.

Kesimpulan: Ya, perusahaan bisa melakukan perubahan teknis. Namun, keputusan untuk melakukannya melibatkan pertimbangan antara penghematan biaya, kualitas pengalaman pengguna, dan kompleksitas teknis. Pernyataan Altman menyiratkan bahwa saat ini, mereka memilih untuk menanggung biaya tersebut demi menjaga interaksi yang mungkin lebih nyaman bagi pengguna.