MODERACIÓN DE CONTENIDO DE CHAT
Una API de moderación de contenido con IA para conversaciones más seguras
Añade APIs de moderación de contenido de chat para revisar texto, imágenes, audio y video. Aplica las políticas de tu comunidad y proporciona contexto a los revisores humanos en los casos dudosos.
MODERACIÓN DE TEXTO CON IA
Detecta contenido dañino en los mensajes de chat
Use una API de moderación de contenido para identificar mensajes perjudiciales en el chat. Combine los resultados del modelo con sus propias listas de palabras y detecte promociones prohibidas divididas entre varios mensajes mediante la detección de combinación contextual.
MODERACIÓN DE CONTENIDO MULTIMODAL
Revise más que las palabras de un chat.
Conecta tu API de moderación de contenido con los tipos de contenido multimedia compatibles que comparte tu comunidad. Comprueba si las imágenes contienen material inapropiado e inspecciona los fotogramas de vídeo y el audio, para que el cambio de formato no deje vacíos en el flujo de moderación.
POLÍTICAS Y ACCIONES PERSONALIZADAS
Define las reglas. Elige la respuesta.
Configura las comprobaciones de la API de moderación de contenido según las políticas de tu comunidad. Permite el contenido aceptable, bloquea las infracciones o deriva los casos inciertos para su revisión. Conecta los resultados con el silenciamiento de grupos y los controles de miembros cuando tu política requiera medidas adicionales.
AI + REVISIÓN HUMANA
Ofrece a los moderadores el contexto necesario para decidir.
Conecta los resultados de la API de moderación de contenido con tu flujo de revisión humana. Usa los filtros de la consola para investigar el contenido y lleva los resultados y las denuncias de usuarios a la cola de revisión. Registra las decisiones y apelaciones para ayudar a tu equipo a perfeccionar su política.
CREADO PARA TUS USUARIOS
Casos de uso de la API de moderación de contenido
Cada conversación requiere reglas distintas. Adapta la detección y la respuesta a los riesgos que afrontan tus usuarios.
Comunidades
Mantén el spam fuera de la conversación.
Detecta respuestas abusivas y spam promocional en las conversaciones grupales. Combina los resultados de AI, las listas de palabras personalizadas y los reportes de los miembros para ayudar a los moderadores a mantener las conversaciones centradas en el tema.
Marketplaces
Detecta mensajes de riesgo relacionados con una venta.
Marque las promociones prohibidas y los datos de contacto repartidos entre varios mensajes. Mantenga vinculados el anuncio y la conversación cuando su equipo revise posibles intentos de llevar la transacción fuera de la plataforma.
Videojuegos
Evita que la competencia se convierta en abuso.
Aplique las políticas de la comunidad al chat de los jugadores, las imágenes compartidas y los mensajes de voz. Use los resultados de moderación y los reportes de los jugadores para decidir si silencia el grupo o realiza una revisión adicional.
Citas
Ayuda a los miembros a sentirse más seguros al conectarse.
Revisa los mensajes y el contenido de los perfiles para detectar material sexual y lenguaje abusivo. Mantén al alcance las opciones de denunciar y bloquear, con un proceso de revisión para las decisiones impugnadas.
CASO DE CLIENTE RELACIONADO
Revisión de contenido en la comunidad de WeSing
El caso de cliente de Tencent Cloud describe cómo WeSing utiliza su sistema de supervisión TianYu para identificar problemas de contenido y respaldar la revisión en una comunidad de karaoke.
Caso relacionado de seguridad de contenido: se trata de una implementación de supervisión de contenido en directo. Aporta contexto de moderación más allá del flujo de mensajes de Chat.
ELIGE CON CONFIANZA
Planifica tu integración de API de moderación de contenido
Descubre cómo encaja la mensajería en tu producto y a qué servicios se conecta tu aplicación.
| Tu necesidad | Cómo se entrega | Qué debes planificar |
|---|---|---|
| Comprobaciones de texto, imágenes, audio y vídeo con IA | Moderación en la nube con categorías de contenido y recomendaciones de revisión. | Las comprobaciones de texto e imágenes se devuelven de forma síncrona; los resultados de audio y vídeo llegan de forma asíncrona. |
| Mensajes que intentan eludir los filtros | Detección de combinación contextual de texto en chats directos y grupales. | Active el ajuste para el escenario correspondiente y pruebe ejemplos de mensajes divididos de su comunidad. |
| Políticas para distintos públicos | Categorías de riesgo, ajustes de sensibilidad, bibliotecas de palabras personalizadas y configuraciones de escenarios. | Configura políticas por separado para mensajes, perfiles y contenido personalizado. |
| Intervención basada en riesgos | Recomendaciones de Aprobar, Revisar o Bloquear; puntuaciones de riesgo de texto/imagen; interceptación configurable y controles de miembros de Chat. | Tu aplicación conecta los resultados de la revisión con reglas de escalamiento, advertencias y acciones sobre las cuentas. |
| Revisión por moderadores y denuncias | Filtrado en la consola y webhooks que incluyen referencias de mensajes y etiquetas de infracción. | Conecta las denuncias, las apelaciones y el historial de decisiones con tus herramientas; mide los falsos positivos y el tiempo de resolución de las revisiones. |
| Disponibilidad y lanzamiento | Activa Chat Content Understanding y selecciona tu configuración de moderación. | Actualmente, el acceso requiere la inclusión en una lista de permitidos. La API bajo demanda admite aplicaciones alojadas en Singapur; confirma la cobertura de idiomas del modelo antes del lanzamiento. |
TRES PASOS PARA TU PRIMERA CONVERSACIÓN
Integra la API de moderación de contenido
Configure la política de su API de moderación de contenido, conecte las comprobaciones de contenido y pruebe lo que ven los usuarios y moderadores.
PRESUPUESTO ANTES DE CONSTRUIR
Costes y cuota gratuita de API de moderación de contenido
Presupueste la integración de la API de moderación de contenido. Tenga en cuenta los usuarios de mensajería y el contenido que revisará. Las asignaciones del plan Chat y los cargos del servicio de moderación se calculan por separado.
CHAT FREE PLAN
Gratis$0 · 1.000 MAU / mes
Empieza con el plan Chat gratuito. El uso mensual se renueva automáticamente; revisa los límites de las funciones y los requisitos de actualización a medida que crece tu audiencia.
CHAT STANDARD
$399 USD/mes · 10,000 MAU
Para mensajería esencial y chats grupales. Compara los planes para funciones avanzadas como confirmaciones de lectura, traducción y funciones para comunidades.
TU APLICACIÓN
Contáctanos
Calcule las comprobaciones de texto e imágenes, el procesamiento de audio y vídeo y la carga de trabajo de los revisores. Confirme los precios y el acceso a la moderación junto con su plan de Chat; la cuota gratuita de Chat no implica que la moderación con IA sea gratuita.
VE EL PRODUCTO EN ACCIÓN
Mantén la seguridad durante toda la conversación
PRUEBE LA INTERACCIÓN
Pruébalo desde ambos lados.
Explora la interfaz de mensajería en la demostración oficial de Chat. Para la moderación con AI, conecta Content Understanding a tu aplicación y prueba la revisión de contenido, los comentarios al remitente y la revisión humana con tus propios ejemplos de políticas.
¿Qué hace una API de moderación de contenido en el chat?
La moderación de contenido mediante IA analiza mensajes y contenido multimedia para detectar riesgos como abuso, contenido sexual y publicidad no deseada. Tencent RTC conecta estas comprobaciones con etiquetas de contenido y recomendaciones de moderación. Combina la detección basada en modelos con listas de palabras personalizadas y detección contextual combinada para identificar infracciones que un filtro sencillo de palabras clave podría pasar por alto.
¿Qué tipos de mensajes puede revisar una API de moderación de contenido?
Sí. Chat Content Understanding admite los cuatro formatos. Las comprobaciones de texto e imágenes devuelven resultados de forma síncrona; las de audio y vídeo los devuelven de forma asíncrona mediante webhooks. Las políticas de vídeo pueden analizar fotogramas, audio o ambos. Para el contenido multimedia almacenado en tus propios sistemas, conecta los callbacks de infracciones con los controles de visualización y acceso de tu aplicación.
¿Puedo personalizar las reglas y acciones de la API de moderación de contenido?
Sí. Configure categorías de riesgo, sensibilidad y bibliotecas de palabras personalizadas según el escenario, incluidos los mensajes directos, el chat grupal y los perfiles. Elija si desea interceptar únicamente el contenido infractor o también el contenido sospechoso. Utilice los resultados para aplicar las reglas de escalamiento de su aplicación y conecte controles de Chat, como silenciar grupos. Las recomendaciones de AI y las acciones a nivel de cuenta siguen siendo decisiones independientes.
¿Cómo se conectan los resultados de la API de moderación de contenido con la revisión humana y el análisis?
Usa la consola de moderación para filtrar contenido y envía los resultados al backend con los detalles del mensaje, el remitente y la infracción. Combina esta información con las denuncias de los usuarios en tus herramientas de revisión. Registra las infracciones confirmadas, las decisiones revocadas y los tiempos de revisión para ajustar las políticas. Tu aplicación gestiona la asignación de revisores, las apelaciones y los informes del historial de decisiones.
¿Cómo habilito la API de moderación de contenido para una aplicación internacional?
Solicita acceso a Chat Content Understanding, que actualmente requiere la inclusión en una lista de permisos. La API documentada de moderación bajo demanda admite por ahora aplicaciones alojadas en Singapur. Confirma los idiomas y modelos compatibles con tu audiencia y prueba la jerga local, los mensajes que mezclan idiomas y los falsos positivos. Los cargos del servicio de moderación son independientes de tu plan de mensajería de Chat.
¿Cómo conecto una API de moderación de contenido con la revisión humana?
Envía los resultados de revisión compatibles al flujo de políticas de tu aplicación. Guarda el contexto de la decisión, permite apelaciones cuando corresponda y define cómo tratarán los moderadores los resultados inciertos.
¿Puede una API de moderación de contenido detener todos los mensajes de chat dañinos?
Ninguna revisión automática es perfecta. Comprueba las categorías de texto y multimedia compatibles, ajusta tu política y combina los resultados con denuncias, bloqueo y escalación humana.