A moderação de conteúdo é o processo de triagem, avaliação e aplicação de regras sobre o que é publicado por usuários em plataformas digitais. O objetivo é impedir a propagação de conteúdos nocivos, como desinformação e discursos de ódio.
Num primeiro momento, este trabalho era feito por humanos. Com o avanço da tecnologia, ele passou a ser automatizado. E, em alguns casos, a inteligência artificial já assumiu este papel, embora os resultados não sejam os esperados.
Preocupações com o futuro dos ambientes virtuais
- Segundo reportagem da Bloomberg, a IA é vista como uma grande esperança para facilitar o trabalho de moderação de conteúdo.
- No entanto, profissionais da área alegam que a tecnologia ainda não se mostrou capaz de detectar de forma confiável publicações que violem as políticas das empresas de mídia social.
- Mesmo assim, as principais plataformas têm preferido substituir os humanos pela ferramenta.
- Este cenário gera preocupações de que o ambiente virtual se torne cada vez mais perigosos e impróprio para crianças, por exemplo.
- Enquanto isso, as gigantes da tecnologia dizem que é impossível contratar trabalhadores em número suficiente para dar conta da demanda.
- As discussões sobre o tema ganham ainda mais importância pelo fato de muitas redes sociais terem sido acusadas de não fazer o suficiente para remover conteúdos violentos, preconceituosos e até extremistas.
Leia mais
- Homem cai em golpe após IA indicar telefone falso
- Americanos temem que IA cause desemprego e caos político
- Fala AI: por que os brasileiros ainda não usam IA generativa?
IA está dando mais trabalho para os profissionais
Dos 13 moderadores com quem a Bloomberg conversou, todos, exceto um, disseram que as ferramentas de IA dificultam seu trabalho. A principal reclamação é que não se pode confiar nas sugestões da inteligência artificial. Eles estimam que a tecnologia falhe em cerca de 70% das avaliações feitas sobre conteúdos potencialmente impróprios.
Os profissionais temem que não importa o quão bem eles treinem a inteligência artificial, a ferramenta talvez nunca consiga captar as sutilezas da fala e do comportamento humanos. Em uma postagem em janeiro deste, a Meta disse que os sistemas automatizados da empresa “resultaram em muitos erros” e censura excessiva de conteúdos que não apresentavam qualquer tipo de problema.
Os computadores são muito bons em perguntas de sim ou não. Eles são menos bons em subjetividade, contexto cultural e gosto. O desenvolvimento do julgamento correto é um processo constante. As políticas da empresa mudam rapidamente dependendo dos regulamentos e climas políticos, as normas sociais evoluem e novas calúnias são constantemente inventadas. Os humanos evoluem sua linguagem mais rapidamente do que a IA pode detectá-la e entendê-la.
Mike Pappas, CEO da empresa de moderação de IA Modulate
Apesar dos alertas, as empresas do setor continuam aumentando o uso da IA para a função como foram de cortar custos. O TikTok recentemente demitiu centenas de funcionários da área e planeja realizar novo cortes. Já o X (antigo Twitter) afirmou que a tecnologia “pode ajudar a apoiar o bem-estar da equipe de moderação” e melhorar o serviço.
O post IA já assumiu a moderação de conteúdo, mas deixa a desejar no trabalho apareceu primeiro em Olhar Digital.
