Mod Assist

Por que você deve integrar o Rocket.Chat ao aplicativo Mod Assist?

A moderação de conteúdo serve como uma proteção essencial contra mensagens prejudiciais e ofensivas, garantindo o bem-estar dos usuários da plataforma. As empresas têm a responsabilidade moral de proteger seus usuários contra conteúdo inadequado, manter a reputação de sua marca como um ambiente seguro e aderir aos regulamentos relevantes que exigem a remoção de material ofensivo e ilegal.

No entanto, a moderação de conteúdo apresenta desafios, principalmente devido ao grande volume de mensagens trocadas continuamente em plataformas de colaboração. Além disso, os possíveis riscos de expor moderadores humanos a conteúdo prejudicial tornam a moderação manual cada vez menos desejável. Aqui estão algumas limitações associadas à moderação manual de conteúdo:

• Volume: A rápida proliferação de plataformas de colaboração e o número cada vez maior de mensagens trocadas dificultam para as empresas acompanharem o grande volume de conteúdo que exige moderação.
• Consistência: Garantir práticas de moderação consistentes em uma organização pode ser uma tarefa difícil, especialmente quando há vários moderadores ou culturas envolvidos.
• Precisão: Os moderadores devem ter a capacidade de identificar com precisão conteúdos inadequados ou prejudiciais e tomar decisões informadas sobre sua aprovação ou rejeição.
• Velocidade: A moderação de conteúdo é uma tarefa complexa, especialmente quando se trata de lidar com áreas cinzentas e situações ambíguas. Um aspecto importante é a velocidade com que o conteúdo precisa ser moderado, pois uma ação rápida pode ajudar a minimizar o impacto do conteúdo inadequado ou prejudicial.

Normalmente, a moderação de conteúdo envolve um processo de duas etapas. Primeiro, os usuários denunciam o conteúdo que consideram ofensivo ou que viola as diretrizes do local de trabalho. Em seguida, uma equipe de moderação analisa e avalia essas mensagens denunciadas. A desvantagem de confiar apenas nas denúncias dos usuários é o risco de o conteúdo nocivo passar despercebido, o que pode prejudicar a reputação da sua plataforma e minar a confiança do usuário.

É nesse ponto que a moderação automatizada de conteúdo entra em ação. O aplicativo Mod Assist detecta e informa automaticamente o conteúdo inadequado com base em regras de moderação predefinidas em um espaço de trabalho.

Observação: Por motivos de privacidade, o aplicativo foi projetado para não operar em salas privadas por padrão e, consequentemente, não relatará mensagens de tais salas.

No entanto, se desejar ativar a moderação também para essas salas privadas, você terá de admitir individualmente o aplicativo nessas salas, como usuário. Lembre-se de adicionar essas salas privadas nas configurações do aplicativo, na seção em que você especifica as salas para o aplicativo moderar. Isso servirá como autenticação de dois fatores para acessar as salas privadas.

Benefícios de usar o aplicativo Mod Assist

Esse aplicativo oferece vários benefícios, incluindo velocidade, proteção e eficiência.

• Maior eficiência: Ao sinalizar automaticamente o conteúdo questionável, o aplicativo simplifica o ciclo de moderação, permitindo uma revisão mais rápida e eficiente. Isso reduz a carga de trabalho dos moderadores humanos. Como resultado, eles podem se concentrar em tarefas mais complexas, como a revisão do conteúdo sinalizado ou a investigação de denúncias de abuso.
• Maior velocidade: Considerando a rápida proliferação de mensagens trocadas, confiar apenas na moderação manual seria impraticável, pois exigiria uma grande equipe de moderadores humanos e uma agenda de trabalho apertada. A principal vantagem desse aplicativo é que ele economiza o valioso tempo dos moderadores, permitindo que eles se concentrem em analisar apenas as mensagens relatadas, em vez de ter que examinar cada mensagem e sinalizar as inadequadas.
• Melhor bem-estar: O aplicativo desempenha um papel fundamental na proteção da segurança e do bem-estar mental dos usuários e dos moderadores humanos, detectando rapidamente várias formas de conteúdo nocivo e ofensivo relacionado à violência, material sexualmente explícito e atividades potencialmente ilegais.

Os tipos específicos de conteúdo que podem ser moderados automaticamente variam de acordo com as necessidades da plataforma individual e os recursos disponíveis. As seguintes categorias de conteúdo inadequado podem ser detectadas e denunciadas usando o aplicativo:

• Toxicidade: qualquer mensagem que seja dura, desrespeitosa, negativa, maliciosa, prejudicial ou odiosa é tóxica por natureza. O aplicativo pode identificar e sinalizar conteúdo que contenha fanatismo e mensagens que constituam bullying ou assédio.
• Profanação: qualquer mensagem em que a linguagem seja ruim, abusiva, suja, vulgar ou obscena é considerada profanação. O aplicativo é treinado para identificar e sinalizar conteúdo que contenha palavrões ou linguagem explícita.
• Risco financeiro: o aplicativo pode identificar e sinalizar mensagens fraudulentas enviadas por fraudadores e impostores para induzi-lo a divulgar informações pessoais confidenciais ou detalhes financeiros que podem levar a roubo de identidade, perda financeira ou acesso não autorizado.
• Flerte: mensagens indecentes, íntimas, indesejadas e inadequadas podem ser consideradas tipos de conteúdo de flerte. 

O aplicativo Mod Assist estará disponível apenas para espaços de trabalho com a versão 6.3.0 ou superior. O aplicativo Mod Assist está disponível para todos os planos premium. Consulte nossa documentação técnica para começar a usar o aplicativo.