API ตรวจสอบเนื้อหาด้วย AI เพื่อบทสนทนาที่ปลอดภัยขึ้น

การกลั่นกรองเนื้อหาด้วย AI จะวิเคราะห์ข้อความและสื่อเพื่อค้นหาความเสี่ยง เช่น การล่วงละเมิด เนื้อหาทางเพศ และโฆษณาที่ไม่พึงประสงค์ Tencent RTC เชื่อมโยงการตรวจสอบเหล่านี้กับป้ายกำกับเนื้อหาและคำแนะนำในการกลั่นกรอง ผสานการตรวจจับด้วยโมเดลเข้ากับรายการคำที่กำหนดเองและการตรวจจับแบบรวมบริบท เพื่อระบุการละเมิดที่ตัวกรองคำหลักทั่วไปอาจตรวจไม่พบ

ใช่ Chat Content Understanding รองรับทั้งสี่รูปแบบ การตรวจสอบข้อความและรูปภาพจะส่งผลลัพธ์กลับแบบซิงโครนัส ส่วนการตรวจสอบเสียงและวิดีโอจะส่งผลลัพธ์กลับแบบอะซิงโครนัสผ่าน webhook นโยบายวิดีโอสามารถตรวจสอบเฟรม เสียง หรือทั้งสองอย่าง สำหรับสื่อในพื้นที่จัดเก็บของคุณเอง ให้เชื่อมต่อ callback การละเมิดกับการควบคุมการแสดงผลและการเข้าถึงของแอป

ได้ กำหนดค่าหมวดหมู่ความเสี่ยง ระดับความละเอียดอ่อน และคลังคำที่กำหนดเองตามสถานการณ์ รวมถึงข้อความโดยตรง แชทกลุ่ม และโปรไฟล์ เลือกได้ว่าจะสกัดกั้นเฉพาะเนื้อหาที่ละเมิดหรือรวมถึงเนื้อหาต้องสงสัยด้วย ใช้ผลลัพธ์เพื่อกำหนดกฎการยกระดับของแอปพลิเคชัน และเชื่อมต่อกับการควบคุม Chat เช่น การปิดเสียงกลุ่ม คำแนะนำจาก AI และการดำเนินการระดับบัญชียังคงต้องพิจารณาแยกกัน

ใช้คอนโซลการกลั่นกรองเนื้อหาเพื่อกรองเนื้อหา แล้วส่งผลลัพธ์ไปยังแบ็กเอนด์พร้อมรายละเอียดข้อความ ผู้ส่ง และการละเมิด รวมข้อมูลเหล่านี้กับรายงานจากผู้ใช้ในเครื่องมือตรวจสอบของคุณ ติดตามการละเมิดที่ยืนยันแล้ว การตัดสินที่ถูกยกเลิก และระยะเวลาตรวจสอบเพื่อปรับแต่งนโยบาย แอปพลิเคชันของคุณจัดการการมอบหมายผู้ตรวจสอบ คำอุทธรณ์ และการรายงานประวัติการตัดสิน

ขอสิทธิ์เข้าถึง Chat Content Understanding ซึ่งปัจจุบันต้องได้รับการเพิ่มในรายการที่อนุญาต API การกลั่นกรองเนื้อหาแบบออนดีมานด์ตามเอกสารรองรับแอปพลิเคชันที่โฮสต์ในสิงคโปร์ในขณะนี้ โปรดยืนยันภาษาและโมเดลที่รองรับสำหรับกลุ่มเป้าหมายของคุณ จากนั้นทดสอบคำสแลงในท้องถิ่น ข้อความที่ผสมหลายภาษา และผลบวกลวง ค่าบริการกลั่นกรองเนื้อหาจะแยกจากแพ็กเกจการรับส่งข้อความ Chat ของคุณ

ส่งผลตรวจสอบที่รองรับเข้าสู่ขั้นตอนนโยบายของแอป เก็บบริบทการตัดสินใจ ให้ยื่นอุทธรณ์เมื่อเหมาะสม และกำหนดวิธีที่ผู้ดูแลจัดการผลที่ไม่แน่ชัด

ไม่มีการตรวจสอบอัตโนมัติใดสมบูรณ์แบบ ตรวจสอบหมวดข้อความและสื่อที่รองรับ ปรับนโยบาย และใช้ผลตรวจร่วมกับการรายงาน การบล็อก และส่งต่อให้มนุษย์