MODERASI TEKS AI
Deteksi Konten Berbahaya dalam Pesan Chat
Gunakan API moderasi konten untuk mengidentifikasi pesan berbahaya dalam chat. Gabungkan hasil model dengan daftar kata Anda sendiri, lalu deteksi promosi terlarang yang dipecah menjadi beberapa pesan menggunakan deteksi penggabungan kontekstual.
MODERASI KONTEN MULTIMODAL
Periksa Lebih dari Sekadar Kata-kata dalam Chat.
Hubungkan API moderasi konten Anda ke jenis media yang didukung dan dibagikan komunitas. Periksa konten yang tidak pantas dalam gambar serta tinjau frame video dan audio agar pergantian format tidak menimbulkan celah dalam alur kerja moderasi Anda.
KEBIJAKAN & TINDAKAN KHUSUS
Tetapkan Aturan. Pilih Respons.
Konfigurasikan pemeriksaan API moderasi konten berdasarkan kebijakan komunitas Anda. Izinkan konten yang dapat diterima, blokir pelanggaran, atau teruskan kasus yang belum pasti untuk ditinjau. Hubungkan hasilnya ke pembisuan grup dan kontrol anggota ketika kebijakan Anda memerlukan tindakan lebih lanjut.
AI + TINJAUAN MANUSIA
Berikan konteks yang dibutuhkan moderator untuk mengambil keputusan.
Hubungkan hasil API moderasi konten ke alur kerja peninjauan manusia Anda. Gunakan filter konsol untuk menyelidiki konten, lalu masukkan hasil dan laporan pengguna ke antrean peninjauan. Catat keputusan dan banding untuk membantu tim menyempurnakan kebijakannya.
DIBUAT UNTUK PENGGUNA ANDA
Kasus Penggunaan API moderasi konten
Percakapan yang berbeda memerlukan aturan yang berbeda. Sesuaikan deteksi dan respons dengan risiko yang dihadapi pengguna Anda.
Komunitas
Jauhkan spam dari percakapan.
Periksa balasan yang bersifat menghina dan spam promosi dalam diskusi grup. Gabungkan hasil AI, daftar kata khusus, dan laporan anggota untuk membantu moderator menjaga percakapan tetap sesuai topik.
Marketplace
Deteksi Pesan Berisiko Seputar Penjualan.
Tandai promosi terlarang dan detail kontak yang dipisahkan ke dalam beberapa pesan. Pertahankan keterkaitan antara listing dan percakapan saat tim Anda meninjau dugaan ajakan bertransaksi di luar platform.
Gim
Cegah persaingan berubah menjadi tindakan kasar.
Terapkan kebijakan komunitas pada obrolan pemain, gambar yang dibagikan, dan pesan suara. Gunakan hasil moderasi serta laporan pemain untuk menentukan pembisuan grup atau peninjauan lebih lanjut.
Kencan
Bantu Anggota Merasa Lebih Aman Saat Terhubung.
Periksa pesan dan konten profil untuk mendeteksi materi seksual dan bahasa kasar. Tempatkan fitur pelaporan dan pemblokiran agar mudah dijangkau, serta sediakan alur peninjauan untuk keputusan yang disengketakan.
KISAH PELANGGAN TERKAIT
Peninjauan konten di komunitas WeSing
Contoh pelanggan Tencent Cloud menjelaskan bagaimana WeSing menggunakan sistem pemantauan TianYu untuk mengidentifikasi masalah konten dan mendukung peninjauan di seluruh komunitas karaoke.
Kasus keamanan konten terkait: ini adalah implementasi pemantauan konten live. Kasus ini memberikan konteks moderasi di luar alur kerja pesan Chat.
PILIH DENGAN PERCAYA DIRI
Rencanakan integrasi API moderasi konten Anda
Lihat bagaimana perpesanan diterapkan dalam produk Anda dan layanan apa saja yang terhubung dengan aplikasi Anda.
| Kebutuhan Anda | Cara penyediaannya | Hal yang perlu direncanakan |
|---|---|---|
| Pemeriksaan teks, gambar, audio, dan video dengan AI | Moderasi cloud dengan kategori konten dan rekomendasi peninjauan. | Pemeriksaan teks dan gambar dikembalikan secara sinkron; hasil audio dan video diterima secara asinkron. |
| Pesan yang mencoba menghindari filter | Deteksi penggabungan kontekstual untuk teks dalam chat langsung dan grup. | Aktifkan pengaturan untuk skenario terkait; uji contoh pesan yang dibagi dari komunitas Anda. |
| Kebijakan untuk berbagai audiens | Kategori risiko, pengaturan sensitivitas, pustaka kata kustom, dan konfigurasi skenario. | Konfigurasikan kebijakan secara terpisah untuk pesan, profil, dan konten khusus. |
| Intervensi berbasis risiko | Rekomendasi Lolos, Tinjau, atau Blokir; skor risiko teks/gambar; intersepsi yang dapat dikonfigurasi dan kontrol anggota Chat. | Aplikasi Anda menghubungkan hasil peninjauan dengan aturan eskalasi, peringatan, dan tindakan akun. |
| Peninjauan moderator dan pelaporan | Pemfilteran konsol serta webhook yang membawa referensi pesan dan label pelanggaran. | Hubungkan laporan, banding, dan riwayat keputusan ke alat Anda; ukur positif palsu dan waktu penyelesaian peninjauan. |
| Ketersediaan dan peluncuran | Aktifkan Chat Content Understanding dan pilih konfigurasi moderasi Anda. | Akses saat ini mengharuskan Anda masuk dalam daftar yang diizinkan. API on-demand saat ini mendukung aplikasi yang dihosting di Singapura; pastikan cakupan bahasa model sebelum peluncuran. |
TIGA LANGKAH MENUJU PERCAKAPAN PERTAMA ANDA
Integrasikan API moderasi konten
Konfigurasikan kebijakan API moderasi konten, hubungkan pemeriksaan konten, lalu uji apa yang dilihat oleh pengguna dan moderator.
ANGGARAN SEBELUM ANDA MEMBANGUN
Biaya & Kuota Gratis API moderasi konten
Siapkan anggaran untuk integrasi API moderasi konten Anda. Pertimbangkan jumlah pengguna pesan dan konten yang diperiksa. Kuota paket Chat dan biaya layanan moderasi dihitung secara terpisah.
CHAT FREE PLAN
Gratis$0 · 1,000 MAU / bulan
Mulai dengan paket Chat gratis. Penggunaan bulanan diperbarui secara otomatis; tinjau batas fitur dan persyaratan peningkatan seiring bertambahnya audiens Anda.
CHAT STANDARD
$399 USD/bulan · 10,000 MAU
Untuk perpesanan inti dan chat grup. Bandingkan paket untuk fitur lanjutan seperti tanda dibaca, terjemahan, dan fitur komunitas.
APLIKASI ANDA
Hubungi kami
Perkirakan pemeriksaan teks dan gambar, pemrosesan audio dan video, serta beban kerja peninjau. Konfirmasikan harga dan akses moderasi bersama paket Chat Anda; kuota gratis Chat tidak berarti moderasi AI juga gratis.
LIHAT PRODUK BERJALAN
Jaga keamanan sepanjang percakapan
Apa fungsi API moderasi konten untuk chat?
Moderasi konten AI menganalisis pesan dan media untuk mendeteksi risiko seperti pelecehan, konten seksual, dan iklan yang tidak diinginkan. Tencent RTC menghubungkan pemeriksaan ini dengan label konten dan rekomendasi moderasi. Gabungkan deteksi berbasis model dengan daftar kata khusus dan deteksi gabungan kontekstual untuk mengidentifikasi pelanggaran yang mungkin terlewat oleh filter kata kunci sederhana.
Jenis pesan apa saja yang dapat diperiksa API moderasi konten?
Ya. Chat Content Understanding mendukung keempat format. Pemeriksaan teks dan gambar mengembalikan hasil secara sinkron; pemeriksaan audio dan video mengembalikan hasil secara asinkron melalui webhook. Kebijakan video dapat memeriksa frame, audio, atau keduanya. Untuk media dalam penyimpanan Anda sendiri, hubungkan callback pelanggaran dengan kontrol tampilan dan akses aplikasi Anda.
Bisakah saya menyesuaikan aturan dan tindakan API moderasi konten?
Ya. Konfigurasikan kategori risiko, sensitivitas, dan pustaka kata khusus berdasarkan skenario, termasuk pesan langsung, chat grup, dan profil. Pilih apakah akan mencegat konten yang melanggar aturan saja atau juga konten yang dicurigai. Gunakan hasilnya untuk menjalankan aturan eskalasi aplikasi Anda dan hubungkan dengan kontrol Chat seperti pembisuan grup. Rekomendasi AI dan tindakan pada tingkat akun tetap merupakan keputusan terpisah.
Bagaimana hasil API moderasi konten terhubung dengan peninjauan manusia dan analitik?
Gunakan konsol moderasi untuk memfilter konten, lalu kirim hasilnya ke backend Anda bersama detail pesan, pengirim, dan pelanggaran. Gabungkan informasi tersebut dengan laporan pengguna dalam alat peninjauan Anda. Lacak pelanggaran yang dikonfirmasi, keputusan yang dibatalkan, dan waktu peninjauan untuk menyempurnakan kebijakan. Aplikasi Anda mengelola penugasan peninjau, banding, dan pelaporan riwayat keputusan.
Bagaimana cara mengaktifkan API moderasi konten untuk aplikasi internasional?
Minta akses ke Chat Content Understanding, yang saat ini memerlukan pendaftaran dalam daftar yang diizinkan. API moderasi sesuai permintaan yang terdokumentasi saat ini mendukung aplikasi yang dihosting di Singapura. Konfirmasikan bahasa dan model yang didukung untuk audiens Anda, lalu uji slang lokal, pesan campuran multibahasa, dan hasil positif palsu. Biaya layanan moderasi terpisah dari paket perpesanan Chat Anda.
Bagaimana cara menghubungkan API moderasi konten ke peninjauan manusia?
Arahkan hasil peninjauan yang didukung ke alur kebijakan aplikasi. Simpan konteks keputusan, sediakan banding jika sesuai, dan tentukan cara moderator menangani hasil yang tidak pasti.
Bisakah API moderasi konten menghentikan setiap pesan chat berbahaya?
Tidak ada peninjauan otomatis yang sempurna. Periksa kategori teks dan media yang didukung, sesuaikan kebijakan, dan padukan hasil peninjauan dengan pelaporan, pemblokiran, serta eskalasi kepada manusia.