Sopan ke ChatGPT Ternyata Boros dan Bikin Lemot, Ini Penjelasannya

Suara.com - Kebiasaan mengucapkan "tolong" saat meminta bantuan atau "terima kasih" setelah mendapat jawaban mungkin sudah mendarah daging sebagai bentuk sopan santun.

Namun, saat berinteraksi dengan kecerdasan buatan (AI) seperti ChatGPT, kebiasaan baik ini justru bisa menjadi bumerang yang menyebabkan pemborosan dan respons yang lebih lambat.

Banyak pengguna tidak menyadari bahwa setiap kata yang mereka ketikkan kepada chatbot AI memiliki "biaya". Dalam dunia Large Language Models (LLM) seperti yang digunakan ChatGPT, biaya ini dihitung dalam satuan yang disebut "token".

Lalu, apa itu token? Token adalah potongan teks, bisa berupa satu kata utuh, bagian kata, atau bahkan tanda baca, yang diolah oleh model AI.

Semakin panjang kalimat atau prompt yang Anda berikan, semakin banyak token yang harus diproses oleh sistem.

Ahli AI pernah mengungkapkan melalui platform X (sebelumnya Twitter) menyoroti isu ini.

Menurutnya, penggunaan kata-kata pemanis seperti "tolong," "mohon," dan "terima kasih" sebenarnya tidak diperlukan dan menambah jumlah token secara sia-sia.

"Setiap kata yang Anda ketikkan akan 'dimakan' oleh AI dan dihitung sebagai token. Semakin banyak token yang digunakan, semakin banyak pula sumber daya komputasi yang dibutuhkan untuk memproses permintaan Anda," jelasnya.

Konsekuensinya terasa di dua level. Bagi pengguna individu, prompt yang terlalu panjang dengan basa-basi akan membuat waktu tunggu respons dari ChatGPT menjadi lebih lama.

Sistem membutuhkan energi dan waktu ekstra untuk memproses token-token yang sebenarnya tidak esensial bagi inti permintaan.

Bagi perusahaan atau pengembang yang menggunakan Application Programming Interface (API) dari ChatGPT untuk aplikasi mereka, dampaknya jauh lebih signifikan: biaya operasional yang membengkak.

Model bisnis API seringkali didasarkan pada jumlah token yang digunakan, sehingga setiap kata tambahan secara harfiah berarti membakar uang.

CEO OpenAI, Sam Altman, bahkan pernah mengungkapkan bahwa kata-kata sopan dari pengguna bisa membebani perusahaan hingga puluhan juta dolar karena konsumsi listrik tambahan.

Berbeda dengan manusia, AI tidak memiliki perasaan atau kesadaran emosional. Oleh karena itu, sopan santun tidak akan membuatnya "lebih senang" atau memberikan jawaban yang lebih baik.

Kunci untuk mendapatkan hasil maksimal dari ChatGPT adalah efisiensi dan kejelasan.