KIỂM DUYỆT VĂN BẢN BẰNG AI
Phát hiện nội dung có hại trong tin nhắn trò chuyện
Sử dụng API kiểm duyệt nội dung để xác định tin nhắn có hại trong cuộc trò chuyện. Kết hợp kết quả của mô hình với danh sách từ của riêng bạn và dùng tính năng phát hiện hợp nhất theo ngữ cảnh để nhận diện nội dung quảng bá bị cấm được chia thành nhiều tin nhắn.
KIỂM DUYỆT NỘI DUNG ĐA PHƯƠNG THỨC
Kiểm tra nhiều hơn những từ ngữ trong cuộc trò chuyện.
Kết nối API kiểm duyệt nội dung với các loại phương tiện được hỗ trợ mà cộng đồng chia sẻ. Kiểm tra nội dung không phù hợp trong hình ảnh, đồng thời phân tích khung hình video và âm thanh để việc chuyển đổi định dạng không tạo ra khoảng trống trong quy trình kiểm duyệt.
CHÍNH SÁCH VÀ HÀNH ĐỘNG TÙY CHỈNH
Đặt quy tắc. Chọn cách phản hồi.
Cấu hình các bước kiểm tra bằng API kiểm duyệt nội dung theo chính sách cộng đồng của bạn. Cho phép nội dung phù hợp, chặn nội dung vi phạm hoặc chuyển các trường hợp chưa rõ ràng sang khâu đánh giá. Kết nối kết quả với chức năng tắt tiếng nhóm và kiểm soát thành viên khi chính sách yêu cầu hành động tiếp theo.
AI + ĐÁNH GIÁ CỦA CON NGƯỜI
Cung cấp ngữ cảnh cần thiết để người kiểm duyệt đưa ra quyết định.
Kết nối kết quả từ API kiểm duyệt nội dung với quy trình xét duyệt thủ công. Sử dụng bộ lọc trên bảng điều khiển để điều tra nội dung, sau đó đưa kết quả và báo cáo của người dùng vào hàng đợi xét duyệt. Ghi lại quyết định và khiếu nại để giúp nhóm hoàn thiện chính sách.
ĐƯỢC THIẾT KẾ CHO NGƯỜI DÙNG CỦA BẠN
Các trường hợp sử dụng API kiểm duyệt nội dung
Mỗi cuộc trò chuyện cần những quy tắc khác nhau. Hãy điều chỉnh cách phát hiện và ứng phó theo rủi ro mà người dùng của bạn gặp phải.
Cộng đồng
Ngăn nội dung rác xâm nhập cuộc trò chuyện.
Kiểm tra các câu trả lời mang tính lạm dụng và nội dung quảng cáo rác trong thảo luận nhóm. Kết hợp kết quả AI, danh sách từ tùy chỉnh và báo cáo của thành viên để giúp người kiểm duyệt duy trì cuộc trò chuyện đúng chủ đề.
Sàn giao dịch
Phát hiện tin nhắn rủi ro liên quan đến giao dịch bán hàng.
Đánh dấu nội dung quảng bá bị cấm và thông tin liên hệ được chia nhỏ trong nhiều tin nhắn. Giữ thông tin đăng bán gắn liền với cuộc trò chuyện khi nhóm của bạn xem xét hành vi bị nghi ngờ là lôi kéo giao dịch ngoài nền tảng.
Trò chơi
Ngăn cạnh tranh biến thành hành vi lạm dụng.
Áp dụng chính sách cộng đồng cho nội dung trò chuyện, hình ảnh được chia sẻ và tin nhắn thoại của người chơi. Dựa trên kết quả kiểm duyệt và báo cáo của người chơi để quyết định tắt tiếng nhóm hoặc xem xét thêm.
Hẹn hò
Giúp Thành Viên An Tâm Hơn Khi Kết Nối.
Kiểm tra tin nhắn và nội dung hồ sơ để phát hiện tài liệu tình dục và ngôn từ lăng mạ. Đặt tính năng báo cáo và chặn ở vị trí dễ tiếp cận, đồng thời cung cấp quy trình xem xét lại các quyết định bị tranh chấp.
CÂU CHUYỆN KHÁCH HÀNG LIÊN QUAN
Xét duyệt nội dung trong cộng đồng WeSing
Ví dụ khách hàng của Tencent Cloud mô tả cách WeSing sử dụng hệ thống giám sát TianYu để xác định vấn đề nội dung và hỗ trợ công tác đánh giá trong toàn cộng đồng karaoke.
Trường hợp liên quan đến an toàn nội dung: đây là một triển khai giám sát nội dung trực tiếp. Trường hợp này cung cấp bối cảnh kiểm duyệt ngoài quy trình tin nhắn Chat.
LỰA CHỌN VỚI SỰ TỰ TIN
Lập kế hoạch tích hợp API kiểm duyệt nội dung
Tìm hiểu cách tính năng nhắn tin phù hợp với sản phẩm và ứng dụng của bạn kết nối với những dịch vụ nào.
| Nhu cầu của bạn | Cách được cung cấp | Những điểm cần lên kế hoạch |
|---|---|---|
| Kiểm tra văn bản, hình ảnh, âm thanh và video bằng AI | Kiểm duyệt trên đám mây với các danh mục nội dung và đề xuất xem xét. | Kết quả kiểm tra văn bản và hình ảnh được trả về đồng bộ; kết quả âm thanh và video được trả về bất đồng bộ. |
| Tin nhắn tìm cách né tránh bộ lọc | Phát hiện hợp nhất theo ngữ cảnh đối với văn bản trong trò chuyện trực tiếp và trò chuyện nhóm. | Bật cài đặt cho tình huống phù hợp; thử nghiệm bằng các ví dụ tin nhắn được chia nhỏ từ cộng đồng của bạn. |
| Chính sách cho từng nhóm đối tượng | Danh mục rủi ro, cài đặt độ nhạy, thư viện từ tùy chỉnh và cấu hình tình huống. | Định cấu hình chính sách riêng cho tin nhắn, hồ sơ và nội dung tùy chỉnh. |
| Can thiệp dựa trên rủi ro | Đề xuất Cho phép, Xem xét hoặc Chặn; điểm rủi ro cho văn bản/hình ảnh; khả năng chặn có thể cấu hình và các tùy chọn kiểm soát thành viên Chat. | Ứng dụng của bạn kết nối kết quả đánh giá với các quy tắc chuyển cấp, cảnh báo và hành động đối với tài khoản. |
| Kiểm duyệt và báo cáo | Tính năng lọc trên bảng điều khiển cùng webhook chứa tham chiếu tin nhắn và nhãn vi phạm. | Kết nối báo cáo, khiếu nại và lịch sử quyết định với các công cụ của bạn; đo lường tỷ lệ dương tính giả và thời gian hoàn tất đánh giá. |
| Khả năng cung cấp và triển khai | Bật Chat Content Understanding và chọn cấu hình kiểm duyệt. | Hiện tại, quyền truy cập yêu cầu phải có tên trong danh sách cho phép. API theo yêu cầu hiện hỗ trợ các ứng dụng được lưu trữ tại Singapore; hãy xác nhận phạm vi ngôn ngữ của mô hình trước khi ra mắt. |
BA BƯỚC ĐỂ BẮT ĐẦU CUỘC TRÒ CHUYỆN ĐẦU TIÊN
Tích hợp API kiểm duyệt nội dung
Cấu hình chính sách API kiểm duyệt nội dung, kết nối quy trình kiểm tra nội dung, sau đó thử nghiệm nội dung mà người dùng và người kiểm duyệt nhìn thấy.
DỰ TOÁN NGÂN SÁCH TRƯỚC KHI XÂY DỰNG
Chi phí và hạn mức miễn phí của API kiểm duyệt nội dung
Lập ngân sách cho việc tích hợp API kiểm duyệt nội dung. Hãy tính đến số người dùng nhắn tin và nội dung cần kiểm tra. Hạn mức của gói Chat và phí dịch vụ kiểm duyệt được tính riêng.
CHAT FREE PLAN
Miễn phí$0 · 1.000 MAU / tháng
Bắt đầu với gói Chat miễn phí. Hạn mức sử dụng hằng tháng tự động được gia hạn; hãy xem lại giới hạn tính năng và yêu cầu nâng cấp khi lượng người dùng tăng lên.
CHAT STANDARD
$399 USD/tháng · 10,000 MAU
Dành cho tính năng nhắn tin cốt lõi và trò chuyện nhóm. So sánh các gói cho những tính năng nâng cao như báo đã đọc, dịch thuật và tính năng cộng đồng.
ỨNG DỤNG CỦA BẠN
Liên hệ với chúng tôi
Ước tính khối lượng kiểm tra văn bản và hình ảnh, xử lý âm thanh và video, cũng như công việc của người kiểm duyệt. Xác nhận giá và quyền truy cập kiểm duyệt cùng với gói Chat của bạn; hạn mức miễn phí của Chat không đồng nghĩa với việc kiểm duyệt bằng AI cũng miễn phí.
XEM SẢN PHẨM HOẠT ĐỘNG
Duy trì an toàn trong suốt cuộc trò chuyện
THỬ TƯƠNG TÁC
Trải nghiệm từ cả hai phía.
Khám phá giao diện nhắn tin trong bản demo Chat chính thức. Để kiểm duyệt bằng AI, hãy kết nối Content Understanding với ứng dụng và dùng các ví dụ chính sách của riêng bạn để kiểm thử hoạt động kiểm tra nội dung, phản hồi cho người gửi và đánh giá của con người.
API kiểm duyệt nội dung hỗ trợ trò chuyện như thế nào?
Tính năng kiểm duyệt nội dung bằng AI phân tích tin nhắn và nội dung đa phương tiện để phát hiện các rủi ro như hành vi lạm dụng, nội dung tình dục và quảng cáo không mong muốn. Tencent RTC kết nối các bước kiểm tra này với nhãn nội dung và khuyến nghị kiểm duyệt. Kết hợp khả năng phát hiện dựa trên mô hình với danh sách từ tùy chỉnh và phát hiện hợp nhất theo ngữ cảnh để xác định những vi phạm mà bộ lọc từ khóa đơn giản có thể bỏ sót.
API kiểm duyệt nội dung có thể kiểm tra những loại tin nhắn nào?
Có. Chat Content Understanding hỗ trợ cả bốn định dạng. Hoạt động kiểm tra văn bản và hình ảnh trả về kết quả đồng bộ; hoạt động kiểm tra âm thanh và video trả về kết quả không đồng bộ qua webhook. Chính sách video có thể kiểm tra khung hình, âm thanh hoặc cả hai. Với nội dung đa phương tiện trong bộ nhớ riêng, hãy kết nối callback vi phạm với các biện pháp kiểm soát hiển thị và truy cập của ứng dụng.
Tôi có thể tùy chỉnh quy tắc và hành động của API kiểm duyệt nội dung không?
Có. Hãy định cấu hình danh mục rủi ro, độ nhạy và thư viện từ tùy chỉnh theo từng tình huống, bao gồm tin nhắn trực tiếp, trò chuyện nhóm và hồ sơ. Chọn chỉ chặn nội dung vi phạm hay chặn cả nội dung bị nghi ngờ. Sử dụng kết quả để vận hành các quy tắc chuyển cấp của ứng dụng và kết nối với các biện pháp kiểm soát Chat như tắt tiếng nhóm. Đề xuất của AI và hành động ở cấp tài khoản vẫn là những quyết định riêng biệt.
Kết quả từ API kiểm duyệt nội dung được kết nối với quy trình đánh giá của con người và hoạt động phân tích như thế nào?
Sử dụng bảng điều khiển kiểm duyệt để lọc nội dung và gửi kết quả đến backend của bạn kèm thông tin chi tiết về tin nhắn, người gửi và vi phạm. Kết hợp các thông tin này với báo cáo của người dùng trong công cụ đánh giá. Theo dõi những vi phạm đã xác nhận, quyết định bị đảo ngược và thời gian đánh giá để điều chỉnh chính sách. Ứng dụng của bạn quản lý việc phân công người đánh giá, khiếu nại và báo cáo lịch sử quyết định.
Làm cách nào để bật API kiểm duyệt nội dung cho ứng dụng quốc tế?
Yêu cầu quyền truy cập Chat Content Understanding, hiện cần được đưa vào danh sách cho phép. API kiểm duyệt theo yêu cầu trong tài liệu hiện hỗ trợ các ứng dụng được lưu trữ tại Singapore. Hãy xác nhận ngôn ngữ và mô hình được hỗ trợ cho đối tượng của bạn, sau đó kiểm thử tiếng lóng địa phương, tin nhắn pha trộn nhiều ngôn ngữ và trường hợp dương tính giả. Phí dịch vụ kiểm duyệt được tính riêng với gói nhắn tin Chat.
Làm thế nào để kết nối API kiểm duyệt nội dung với đánh giá của con người?
Chuyển kết quả đánh giá được hỗ trợ vào quy trình chính sách của ứng dụng. Lưu ngữ cảnh quyết định, cho phép khiếu nại khi phù hợp và quy định cách người kiểm duyệt xử lý kết quả chưa chắc chắn.
API kiểm duyệt nội dung có thể chặn mọi tin nhắn chat có hại không?
Không có đánh giá tự động nào hoàn hảo. Kiểm tra các loại văn bản và media được hỗ trợ, điều chỉnh chính sách và kết hợp kết quả với báo cáo, chặn và chuyển cấp cho con người.