TikTok Siapkan Rp65 M demi Perangi Spam dan Lindungi Kreator

Suara.com - TikTok memperkuat investasinya dalam pengembangan kecerdasan buatan (Artificial Intelligence/AI) dengan fokus pada peningkatan literasi digital, pemberantasan konten spam berbasis AI, serta memperluas transparansi penggunaan teknologi tersebut. Langkah ini dilakukan untuk menjaga ekosistem kreator sekaligus meningkatkan kepercayaan pengguna terhadap platform.

Perusahaan menilai AI memiliki potensi besar dalam mendorong kreativitas, membantu pengguna menemukan minat baru, hingga menciptakan pengalaman digital yang lebih aman. Namun, pemanfaatannya harus dilakukan secara transparan dan bertanggung jawab agar tidak disalahgunakan.

Sebagai bagian dari strategi tersebut, TikTok mengumumkan sejumlah inisiatif baru. Mulai dari memperluas materi edukasi AI, meningkatkan sistem deteksi akun penyebar spam berbasis AI, hingga memperkuat kolaborasi dengan organisasi internasional yang fokus pada transparansi konten digital.

Salah satu investasi terbesar dilakukan melalui program literasi AI. TikTok telah mengalokasikan lebih dari US$4 juta atau sekitar Rp65 miliar (asumsi kurs Rp16.300 per dolar AS) untuk mendukung organisasi dan pakar yang mengedukasi masyarakat mengenai penggunaan AI secara bertanggung jawab.

Dana tersebut digunakan untuk mendukung berbagai organisasi seperti NoFiltr dan Raspberry Pi Foundation dalam memproduksi konten edukasi di TikTok. Sejak program tersebut diluncurkan pada November 2025, konten-konten literasi AI telah mencatatkan lebih dari 200 juta tayangan di platform.

Selain itu, TikTok juga menggandeng mitra industri seperti National Association for Media Literacy Education (NAMLE) dan pakar AI Henry Ajder guna menyusun panduan penggunaan AI yang aman. Perusahaan turut menghadirkan pusat edukasi baru di dalam aplikasi agar pengguna lebih mudah mengenali konten hasil rekayasa AI.

Di sisi lain, TikTok mengakui perkembangan AI juga memunculkan tantangan baru berupa maraknya konten spam yang diproduksi secara massal sehingga berpotensi menggeser karya orisinal para kreator.

Untuk mengatasi persoalan tersebut, perusahaan akan menguji sistem deteksi terbaru dalam beberapa pekan mendatang. Sistem ini dirancang untuk mengidentifikasi akun yang menyebarkan spam berbasis AI, terutama pada topik-topik sensitif seperti politik, peristiwa terkini, investasi dan keuangan, hingga kesehatan.

TikTok mengungkapkan bahwa pada kuartal pertama tahun ini pihaknya telah menghapus lebih dari 86 juta akun palsu sebagai bagian dari upaya menjaga integritas platform.

TikTok juga memperluas komitmennya terhadap transparansi penggunaan AI dengan bergabung sebagai anggota Dewan Pembina Coalition for Content Provenance and Authenticity (C2PA), organisasi internasional yang mengembangkan standar identifikasi konten digital berbasis AI.

Perusahaan menjadi salah satu platform video pertama yang menerapkan teknologi Content Credentials milik C2PA untuk membantu pengguna mengetahui apakah suatu konten dibuat atau diedit menggunakan AI.

Hingga kini, TikTok telah memberikan label pada lebih dari 3 miliar video melalui kombinasi teknologi Content Credentials, fitur pelabelan kreator, serta teknologi invisible watermarking atau tanda air digital yang tidak terlihat.

Ke depan, TikTok juga akan terus mengembangkan berbagai fitur AI kreatif seperti Smart Split, AI Outline, hingga menguji fitur Manage Topics yang memungkinkan pengguna mengatur seberapa banyak konten AI yang ingin ditampilkan di beranda mereka.