사용자를 위한 설계
콘텐츠 모더레이션 API 사용 사례
대화마다 필요한 규칙이 다릅니다. 사용자가 직면한 위험에 맞춰 탐지 및 대응 방식을 선택하세요.
커뮤니티
대화에서 스팸을 차단하세요.
그룹 토론에서 모욕적인 답글과 홍보성 스팸을 확인하세요. AI 결과, 사용자 지정 단어 목록 및 구성원 신고를 결합하여 운영자가 대화의 주제를 유지할 수 있도록 지원하세요.
마켓플레이스
판매 전후의 위험한 메시지를 포착하세요.
여러 메시지에 나뉘어 있는 금지된 홍보 내용과 연락처 정보를 표시하세요. 팀에서 플랫폼 외부 거래 유도 의심 사례를 검토할 때 상품 게시물과 대화를 함께 유지하세요.
게임
경쟁이 악성 행위로 번지지 않도록 하세요.
플레이어 채팅, 공유 이미지, 음성 메시지에 커뮤니티 정책을 적용하세요. 모더레이션 결과와 플레이어 신고를 바탕으로 그룹 음소거 또는 추가 검토 여부를 결정하세요.
데이팅
멤버들이 더 안심하고 소통할 수 있도록 지원하세요.
메시지와 프로필 콘텐츠에서 성적 자료 및 모욕적인 언어를 검사하세요. 신고 및 차단 기능을 쉽게 사용할 수 있게 배치하고, 이의가 제기된 결정에 대한 검토 절차를 제공하세요.
자신 있게 선택하세요
콘텐츠 모더레이션 API 통합 계획
메시징이 제품에 어떻게 적용되고 애플리케이션이 어떤 서비스와 연결되는지 확인하세요.
| 요구 사항 | 제공 방식 | 미리 계획할 사항 |
|---|---|---|
| AI 텍스트, 이미지, 오디오 및 동영상 검사 | 콘텐츠 카테고리와 검토 권장 사항을 제공하는 클라우드 모더레이션. | 텍스트 및 이미지 검사 결과는 동기식으로 반환되며, 오디오 및 비디오 결과는 비동기식으로 도착합니다. |
| 필터 우회를 시도하는 메시지 | 일대일 및 그룹 채팅의 텍스트를 위한 컨텍스트 기반 병합 탐지. | 관련 시나리오에 해당 설정을 사용 설정하고 커뮤니티의 분할 메시지 예시로 테스트하세요. |
| 대상별 정책 | 위험 범주, 민감도 설정, 사용자 지정 단어 라이브러리 및 시나리오 구성. | 메시지, 프로필, 사용자 지정 콘텐츠에 대한 정책을 각각 구성하세요. |
| 위험 기반 개입 | 통과, 검토 또는 차단 권고, 텍스트/이미지 위험 점수, 구성 가능한 차단 기능 및 Chat 멤버 제어. | 애플리케이션은 검토 결과를 에스컬레이션 규칙, 경고 및 계정 조치에 연결합니다. |
| 운영자 검토 및 신고 | 콘솔 필터링과 메시지 참조 및 위반 라벨을 전달하는 Webhook. | 신고, 이의 제기와 결정 기록을 도구에 연결하고 오탐과 검토 소요 시간을 측정하세요. |
| 가용성 및 출시 | Chat Content Understanding을 활성화하고 콘텐츠 검토 구성을 선택하세요. | 현재 액세스하려면 허용 목록에 등록되어야 합니다. 온디맨드 API는 현재 싱가포르에서 호스팅되는 앱을 지원합니다. 출시 전에 모델의 지원 언어 범위를 확인하세요. |
첫 대화를 시작하는 3단계
콘텐츠 검토 API 통합
콘텐츠 조정 API 정책을 구성하고 콘텐츠 검사를 연결한 다음 사용자와 운영자에게 표시되는 내용을 테스트하세요.
개발 전 예산 산정
콘텐츠 모더레이션 API 비용 및 무료 할당량
콘텐츠 모더레이션 API 통합 예산을 계획하세요. 메시징 사용자 수와 검사할 콘텐츠를 고려해야 합니다. Chat 요금제의 사용량 한도와 모더레이션 서비스 요금은 별도입니다.
CHAT FREE PLAN
무료$0 · 월 1,000 MAU
무료 Chat 요금제로 시작하세요. 월간 사용량은 자동으로 갱신됩니다. 사용자 규모가 커지면 기능 제한과 업그레이드 요구 사항을 확인하세요.
CHAT STANDARD
$399 USD/월 · 10,000 MAU
핵심 메시징과 그룹 채팅에 적합합니다. 읽음 확인, 번역, 커뮤니티 기능과 같은 고급 기능별 요금제를 비교하세요.
내 애플리케이션
문의하기
텍스트 및 이미지 검사, 오디오 및 동영상 처리와 검토자 작업량을 추산하세요. Chat 요금제와 함께 콘텐츠 검토 가격 및 이용 권한을 확인하세요. Chat 무료 할당량이 AI 콘텐츠 검토도 무료라는 의미는 아닙니다.
콘텐츠 모더레이션 API는 채팅에서 어떤 역할을 하나요?
AI 콘텐츠 검토는 메시지와 미디어를 분석하여 폭언, 성적 콘텐츠, 원치 않는 광고 등의 위험을 감지합니다. Tencent RTC는 이러한 검사를 콘텐츠 레이블 및 검토 권장 사항과 연결합니다. 모델 기반 감지에 맞춤 단어 목록과 맥락 병합 감지를 결합하면 단순한 키워드 필터가 놓칠 수 있는 위반 사항을 식별할 수 있습니다.
콘텐츠 검토 API는 어떤 메시지 유형을 검사할 수 있나요?
예. Chat Content Understanding은 네 가지 형식을 모두 지원합니다. 텍스트 및 이미지 검사는 결과를 동기식으로 반환하고, 오디오 및 비디오 검사는 webhook을 통해 비동기식으로 반환합니다. 비디오 정책은 프레임, 오디오 또는 둘 다를 검사할 수 있습니다. 자체 저장소의 미디어에는 위반 콜백을 앱의 표시 및 접근 제어와 연결하세요.
콘텐츠 모더레이션 API 규칙과 작업을 사용자 지정할 수 있나요?
예. 다이렉트 메시지, 그룹 채팅, 프로필을 비롯한 시나리오별로 위험 범주, 민감도, 사용자 지정 단어 라이브러리를 구성할 수 있습니다. 위반 콘텐츠뿐 아니라 위반이 의심되는 콘텐츠도 차단할지 선택하세요. 결과를 애플리케이션의 에스컬레이션 규칙에 활용하고 그룹 음소거 같은 Chat 제어 기능과 연결할 수 있습니다. AI 권장 사항과 계정 수준 조치는 별도로 결정해야 합니다.
콘텐츠 모더레이션 API 결과는 사람의 검토 및 분석과 어떻게 연결되나요?
콘텐츠 검토 콘솔에서 콘텐츠를 필터링하고 메시지, 발신자 및 위반 세부 정보와 함께 결과를 백엔드로 전송하세요. 검토 도구에서 이 정보를 사용자 신고와 함께 활용하세요. 확인된 위반, 번복된 결정 및 검토 시간을 추적하여 정책을 조정하세요. 검토자 배정, 이의 제기 및 결정 이력 보고는 애플리케이션에서 관리합니다.
글로벌 앱에서 콘텐츠 모더레이션 API를 활성화하려면 어떻게 해야 하나요?
현재 허용 목록 등록이 필요한 Chat Content Understanding 사용 권한을 요청하세요. 문서화된 온디맨드 모더레이션 API는 현재 싱가포르에서 호스팅되는 애플리케이션을 지원합니다. 대상 사용자에게 지원되는 언어와 모델을 확인한 후 현지 은어, 여러 언어가 섞인 메시지 및 오탐을 테스트하세요. 모더레이션 서비스 요금은 Chat 메시징 요금제와 별도로 부과됩니다.
콘텐츠 검토 API를 사람의 검토에 연결하려면 어떻게 해야 하나요?
지원되는 검토 결과를 앱의 정책 처리 흐름에 전달하세요. 판단 맥락을 저장하고 적절한 경우 이의 제기를 제공하며 검토자가 불확실한 결과를 처리하는 방법을 정의하세요.
콘텐츠 검토 API가 모든 유해한 채팅 메시지를 차단할 수 있나요?
완벽한 자동 검토는 없습니다. 지원되는 텍스트 및 미디어 범주를 확인하고 정책을 조정하며 검토 결과를 신고, 차단 및 사람의 상위 검토와 연결하세요.