10 Istilah Teknologi AI Ini Perlu Kamu Tahu!

Ia dapat digunakan untuk membuat karya seni, menulis cerita, mendesain produk, dan bahkan membantu dokter mengerjakan tugas administratif.

Namun, ia juga dapat digunakan oleh aktor jahat untuk membuat berita palsu, atau gambar yang terlihat seperti foto tetapi tidak nyata.

Karena itu, perusahaan teknologi sedang mengembangkan cara untuk mengidentifikasi konten yang dihasilkan AI dengan jelas.

5. Halusinasi

Sistem generative AI dapat membuat cerita, puisi dan lagu, tetapi kadang-kadang manusia ingin hasil dari generative AI didasarkan pada kebenaran.

Karena sistem AI tidak dapat membedakan antara yang nyata dan palsu, generative AI dapat memberikan tanggapan yang tidak akurat.

Fenomena ini disebut developer sebagai halusinasi, atau istilah yang lebih akurat, fabrikasi.

Ini mirip seperti saat seseorang melihat sesuatu yang mirip seperti garis wajah manusia di bulan, dan mengatakan bahwa betul-betul ada manusia di bulan.

Developer mencoba menyelesaikan isu ini melalui "grounding", sebuah teknik memberikan informasi tambahan dari sumber tepercaya kepada sistem AI, untuk meningkatkan akurasi AI tentang topik tertentu.

Baca Juga: Kominfo: Ada 22,1 Pekerja Indonesia yang Sudah Manfaatkan Teknologi AI

Kadang-kadang prediksi sistem juga bisa salah jika model tidak memiliki informasi terkini.

6. AI yang bertanggung jawab (Responsible AI)

Responsible AI memandu manusia kala mencoba merancang sistem yang aman dan adil di setiap level, termasuk model machine learning, perangkat lunak, user interface, serta aturan dan batasan yang diberlakukan untuk mengakses aplikasi.

Praktik Responsible AI adalah elemen penting karena sistem AI sering ditugaskan untuk membantu membuat keputusan penting yang menyangkut manusia, seperti dalam bidang pendidikan dan kesehatan.

Namun, karena AI dibuat oleh manusia dan dilatih menggunakan data dari dunia yang tidak sempurna, AI dapat mencerminkan bias tertentu.

Karena itu, salah satu kunci dari praktik Responsible AI adalah memahami data yang digunakan untuk melatih sistem tersebut dan mencari cara untuk mengatasi kelemahannya, agar hasilnya dapat mencerminkan masyarakat secara luas, bukan hanya kelompok-kelompok tertentu.