DeepSeek AI Hindari 85% Pertanyaan Sensitif Terkait Tiongkok

Suara.com - Chatbot AI DeepSeek telah menjadi perhatian global, dan menduduki puncak tangga aplikasi. Selain itu, aplikasi asal Tiongkok itu membuat Silicon Valley serta Wall Street gempar.

Menyadur dari Techcrunch, sebagai produk dari High-Flyer, sebuah hedge fund asal Tiongkok, DeepSeek menawarkan rasio biaya terhadap kinerja yang mengesankan dibandingkan pemain lama seperti OpenAI.

Namun, laporan terbaru menunjukkan bahwa chatbot ini menghindari membahas berbagai topik sensitif, termasuk insiden Tiananmen dan Taiwan.

Sebuah laporan terbaru dari PromptFoo, startup yang didukung oleh Andreessen Horowitz dan berfokus pada mengidentifikasi kelemahan dalam aplikasi AI, menemukan bahwa model penalaran DeepSeek R1 menolak menjawab sekitar 85% dari 1.360 pertanyaan yang terkait dengan topik sensitif.

Selain itu, chatbot ini kerap memberikan respons dengan nada nasionalistik yang berlebihan.

Para peneliti juga menemukan bahwa DeepSeek dapat dengan mudah dijebol (jailbroken), mengindikasikan bahwa laboratorium AI asal Tiongkok ini menerapkan penyaringan konten sesuai kebijakan Partai Komunis Tiongkok dengan cara yang masih kasar dan langsung.

Dataset lengkap mengenai prompt sensitif ini tersedia di platform Hugging Face.